За последние 5 лет искусственный интеллект (ИИ) совершил большой скачок из лабораторий в реальную жизнь и начал реально влиять на происходящее в мире людей. Открылись большие возможности, но есть и значительные риски, ведь машинный разум начал серьезно влиять на выбор людей и их поступки.
ИИ достиг критической поворотной точки в своей эволюции, согласно новому отчету международной группы экспертов, оценивающих развитие этой области, говорится в сообщении Университета Брауна. Достигнутый ИИ прогресс в обработке языков, компьютерном зрении и распознавании образов позволяет ИИ ежедневно влиять на жизни людей – от помощи людям в выборе фильма до помощи в постановке медицинских диагнозов. Но с этим успехом возникает новая необходимость понять и уменьшить риски и недостатки систем, управляемых ИИ, таких как алгоритмическая дискриминация или использование ИИ для преднамеренного обмана. Ученые говорят, что разработчики ИИ должны больше сотрудничать с экспертами в области социальных наук и права.
«За последние пять лет (с 2016 по 2021 – ред.) искусственный интеллект совершил скачок от того, что в основном происходит в исследовательских лабораториях или других строго контролируемых условиях, к тому, что в обществе он влияет на жизнь людей. Это действительно захватывающе, потому что эта технология делает некоторые удивительные вещи, о которых мы могли только мечтать пять или 10 лет назад. …И я думаю, что следующий рубеж – это размышления о том, как мы можем получить выгоду от ИИ при минимизации рисков», – заявил профессор информатики в Университете Брауна Майкл Литтман, который возглавлял панель отчетов.
Что касается рисков, то речь не идет о захвате власти в мире, по крайней мере пока, считают ученые. Опасность в другом: с помощью ИИ можно создавать дипфейк-фото и видео, которые могут вредить репутации людей, или использовать онлайн-ботов для манипулирования общественным дискурсом и мнением. И все это прикрывается «беспристрастностью» ИИ, что на самом деле – под вопросом, ведь им тоже управляют люди.
Ранее на Muse – Моррисон, Кобейн, Хендрикс, Уайнхаус: нейросеть создала песни в музыкантов стиле «Клуба 27»
Коментарі