Куда нас заведут нейросети: семь страшных сценариев развития ИИ

Политическая дезинформация

Нынешние модели ИИ легко могут сгенерировать реалистичное изображение или голос практически по любому запросу: совсем скоро они смогут создавать целые видеоролики из ничего. Поэтому использование ИИ в целях дезинформации, создания ложных обвинений или для других корыстных намерений — всего лишь вопрос времени. По Сети уже гуляют фотографии, например, Папы Римского в стереотипном прикиде рэп-музыканта и задержания Дональда Трампа полицией. Изображения создавались в сатирических целях и, по идее, не должны были никого обмануть, но в социальных сетях ими все равно обменивались как настоящими. Не зря бота ChatGPT уже судят за клевету — он обвинил одного австралийского политика в коррупции.

Создание полицейского государства

В культовом фильме «Особое мнение» полиция арестовывала людей еще до того, как они совершали преступления, полагаясь на провидцев, предсказывавших будущее. Само собой, в реальности подобный сценарий был бы кошмаром с точки зрения этики, но некоторые органы правопорядка уже рассматривают возможность внедрения ИИ для этих целей. Системы распознавания лиц и другие инструменты для слежки давно стоят на службе закона, и расширенные возможности искусственного интеллекта могут привести к еще большему злоупотреблению технологиями.

Обострение социального неравенства

В 2014 году Amazon разработала ИИ-инструмент для помощи в найме сотрудников: программа должна была рассматривать резюме и выбирать лучших кандидатов. Но уже через год компания поняла, что ИИ проявлял предвзятое отношение к соискателям мужского пола и автоматически занижал резюме, где встречалось слово «женщина» и упоминания женских колледжей. ИИ обучается на основе человеческой статистики, поэтому он не может быть абсолютно непредвзятым. И сейчас нельзя предсказать, как «врожденные» пристрастия искусственного интеллекта могут повлиять на повседневную жизнь.

Плохие советы

Одной из самых сложных проблем современных ИИ можно назвать склонность к т.н. «галлюцинациям» — выдаче заведомо ложной информации. Иногда они бывают безобидными: например, ChatGPT может настаивать, что тот или иной телефон имеет функции, которых нет в реальности. Но порой ответы ИИ куда более опасны, и если человек воспримет их всерьез, то они могут привести к непоправимому ущербу. Представьте, что поисковик выдает людям ошибочные дозировки лекарств, сомнительные советы по диете или, еще хуже, одобряет суицидальные мысли.

Крах биржевого рынка

По мере развития ИИ на биржевых рынках все чаще встречаются автоматизированные боты, которые покупают и продают акции исходя из собственных расчетов и рыночных колебаний. Но подобные болванчики сравнительно просты, их поведение можно предсказать. Актуальные нейросети гораздо более «комплексны» по своей природе, отчего их решения, тяжело анализировать. Если трейдеры массово начнут использовать продвинутый ИИ, то на биржевом рынке может возникнуть катастрофа. Никто ведь не застрахован от случайной галлюцинации, из-за которой бот решит, например, обвалить акции какой-то компании на абсолютно ровном месте.

Падение поисковой оптимизации

Крупнейшие IT-корпорации мира вступили в настоящую гонку технологий на почве генеративного ИИ, однако интеграция нейросетей также может повредить многим медиа-бизнесам. Сайты, зарабатывающие на рекламе, получают компенсацию за клики посетителей: если ИИ начнет просто пересказывать содержание страниц, то пользователям будет незачем переходить по ссылкам, из-за чего доходы подобных ресурсов значительно снизятся.

Ускорение глобального потепления

Человечество стоит перед лицом экзистенциальной угрозы. Глобальное потепление реально, и у нас остается совсем немного времени, чтобы сократить углеродосодержащие выбросы, прежде чем станет слишком поздно. Аналитические возможности ИИ способны помочь в поиске эффективного решения, но нельзя забывать, что искусственный интеллект потребляет огромные объемы энергии. Чем мощнее ИИ, тем больше их энергопотребление — и это прямо приближает нас к точке невозврата. Некоторые модели потребляют столько же энергии, сколько нужно обычному смартфону, тогда как другие за одну обучающую сессию поглощают не меньше электричества, чем среднестатистическая семья за год.

*

https://www.slashgear.com/1252745/10-nightmare-scenarios-that-could-happen-with-current-generation-ai/?utm_source=Rambler&utm_medium=news&utm_campaign=transition

--------------------------

Интересно Ваше мнение. Как Вы считаете, что это: