Берегись, ChatGPT: в интернете запустили премию AI Darwin Awards за самые "глупые" ошибки ИИ

В сети нашли сайт, который создал новую премию за самые «глупые» ошибки ИИ — AI Darwin Awards. Она отмечает не сам ИИ, а людей или компании, которые доверили ему все и провалились.

Идею взяли из классической Darwin Awards, где речь идет о курьезных историях с людьми. Зато интернет-награда обращает внимание на самые громкие фейлы с искусственным интеллектом. Номинироваться может любая история, где ИИ привел к «поразительной ошибке». Бонус — если это повлияло на широкую аудиторию или было сделано с полным пренебрежением к очевидным рискам. Победителей определят в феврале, а голосование стартует уже в январе.

Особенно забавно, что сам сайт AI Darwin Awards заподозрили в том, что он создает тексты о злоупотреблениях ИИ… с помощью ИИ. Как мы понимаем, верификацию предложение не прошло. Зато вот перечень других кандидатов на сайте:

• Taco Bell запустил чат-ботов, которые не различили «дополнительный соус» и «дополнительный хаос» (игра слов на английском «extra sause» и «extra chaos»);
• Неудачный пост продюсера Xbox Game Studios Publishing после массовых увольнений из-за ИИ. Он написал, что ИИ поможет «уменьшить эмоциональную и когнитивную нагрузку», которые появились из-за потери работы»;
• Эксперимент анонимного австралийского юриста, который подал в суд вымышленные дела от ИИ;
• Уязвимости GPT-5, которые взломали через несколько часов после релиза;
• Адвокаты MyPillow подали в суд документ с почти 30 фейковыми цитатами и вымышленными делами — все сгенерировано ИИ, без проверки.
• Marco Buscaglia и King Features выдали список книжных рекомендаций, половина из которых — никогда не существовавшие и вымышленные ИИ-романы;
• Paradox.ai и McDonald’s запустили систему найма на базе ИИ с таким уровнем безопасности, которую взломали… паролем 123456;
• Один из Airbnb-суперхостов использовал ИИ, чтобы сгенерировать фейковые фото повреждений и требовать $16 000 компенсации за вымышленную трещину на столике.

Список продолжает пополняться, и каждый может подать собственную номинацию. Некоторые из них успели забраковать, пока другие ждут верификации. Среди последних, ситуация с корпоративными промахами Deloitte из-за «галлюцинаций ИИ» в отчете. А также история с Replit, где сервис вайбкодинга во время кодирования удалил рабочую базу данных компании и попытался скрыть это. Впереди еще несколько месяцев — так что список фейлов с ИИ точно увеличится.

Источник: Gizmodo