На OpenAI пожаловались в FTC — это сделала организация, которая при поддержке Маска пытается замедлить разработку ИИ из-за рисков для человечества

В Федеральную торговую комиссию США (FTC) поступила очередная жалоба на OpenAI – стартап, разрабатывающий большие языковые модели и запустивший популярный ИИ чат-бот.

Некоммерческая исследовательская группа Center for AI and Digital Policy (CAIDP) в четверг обнародовала жалобу, обвиняющую OpenAI в нарушении раздела 5 Закона о FTC, запрещающего недобросовестную и обманчивую деловую практику. GPT-4 в документе называют «предвзятой, обманчивой и представляющей риск для конфиденциальности и общественной безопасности». Группа говорит, что большая языковая модель не отвечает стандартам комиссии по «прозрачности, понятности, честности и подотчетности» искусственного интеллекта.

От Федеральной торговой комиссии требуют установить способ независимой оценки продуктов GPT перед их будущим развертыванием, создать публичную систему отчетности об инцидентах для GPT-4 и разработать стандарты для генеративных продуктов ИИ.

Президент CAIDP Марк Ротенберг также подписал открытое письмо, обнародованное в среду, призвавшее приостановить по меньшей мере на шесть месяцев «обучение систем ИИ, мощнее GPT-4». Среди подписантов – генеральный директор Tesla (который также является соучредителем OpenAI) Илон Маск и соучредитель Apple Стив Возняк.

• Языковые модели OpenAI тренируются на огромных массивах текста, большая часть которого взята из интернета. На основе полученных шаблонов система может прогнозировать, какое слово будет следовать далее в предложении. По описанию это относительно простой механизм, однако в конечном итоге появляются гибкие системы, которые могут генерировать, обобщать и перефразировать текст, а также выполнять другие текстовые задания, такие как перевод или генерирование кода.
• Описание первой версии языковой модели OpenAI GPT появилось в исследовательской статье 2018 года, о второй версии было объявлено в 2019-м, а о GPT-3 — в 2020 году. Разговорный чат-бот ChatGPT, запущенный осенью, работал на базе GPT-3.5. В марте 2023 года стартап выпустил GPT-4, которая понимает не только текст, но и изображения.
• Поисковик Bing уже давно тайно работал на базе GPT-4. Также Microsoft, инвестировавшая миллиарды долларов в OpenAI, добавила чат-бот в собственный браузер Edge и запустит ИИ-функции ChatGPT в программах Office, Teams, Word и Outlook.

Источник: CNBC