После публикации открытого письма представителей отрасли с обеспокоенностью по поводу развития искусственного интеллекта Open AI не занимается обучением GPT-5. Сэм Альтман говорит, что компании нужно проделать большую работу перед запуском новой языковой модели. Ряд идей находятся в разработке и пока далеки от реализации.
Письмо, подписанное в конце марта тысячами представителей индустрии и известных людей, содержало призыв ко всем разработчикам немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4. Спустя несколько недель Альтман указал, что в письме отсутствует техническое описание того, где и почему нужна пауза, но заявил, что OpenAI еще не начала обучение GPT-5 и не планирует это делать какое-то время.
Альтман не разделяет большинства опасений по поводу ИИ. Глава OpenAI рассказал, что компания оценивает риски с помощью внешнего аудита и команд тестирования безопасности. После окончания работы над GPT-4 понадобилось еще полгода для ее тестирования.
Также Альтман выступил против регулирования небольших ИИ-стартапов: «Единственное регулирование, к которому мы призывали, касается нас самих и сопоставимых по масштабу компаний».
Поездка Альтмана в Индию и встречи с властями других стран является частью попытки укрепить уверенность в готовности OpenAI работать с регулирующими органами. На встречах он активно призывает законодателей серьезно задуматься о потенциальных злоупотреблениях и других недостатках распространения ИИ для минимизации любых негативных последствий и разработки соответствующих ограничений.
Источник: TechCrunch