Технології Новини 05.06.2024 о 12:32 comment views icon
Стаття з  

Ризики перевищують вигоди. Працівники OpenAI і Google DeepMind закликають посилити контроль за ШІ

author avatar
https://itc.ua/wp-content/uploads/2024/03/647dc38d9e7db-bpfull-1-96x96.jpg *** https://itc.ua/wp-content/uploads/2024/03/647dc38d9e7db-bpfull-1-96x96.jpg *** https://itc.ua/wp-content/uploads/2024/03/647dc38d9e7db-bpfull-1-96x96.jpg

Ігор Шелудченко

Автор новин

Розділ Технології виходить за підтримки Favbet Tech

Колишні та нинішні працівники OpenAI і Google DeepMind підписали відкритий лист із вимогами посилення заходів безпеки у розвитку штучного інтелекту.

У відкритому листі експерти закликають до створення незалежних регуляторних органів та встановлення суворих стандартів для контролю за розвитком та впровадженням ШІ-технологій. Вони зазначають, що без належного контролю та регуляції потенційні ризики перевищать вигоди, які можуть принести ці технології.

Підписанти висловлюють занепокоєння з приводу можливих зловживань та небезпек, пов’язаних з неконтрольованим розвитком ШІ. Вони наголошують на важливості міждисциплінарної співпраці для забезпечення безпечного та етичного використання ШІ-технологій, а також на необхідності прозорості та підзвітності у цій галузі.

Працівники висувають такі вимоги до передових компаній у галузі ШІ:

  • Не укладати угоди, що забороняють критику компанії з приводу ризиків, та не переслідувати працівників за таку критику.
  • Забезпечити можливість донести застереження (в тому числі й анонімно) до ради директорів, регуляторів та інших організацій.
  • Формувати культуру відкритого діалогу та дозволяти працівникам публічні висловлювання за умови захисту комерційної таємниці.
  • Не застосовувати санкції щодо працівників, які публічно діляться конфіденційною інформацією про ризики після того, як інші способи донести своє занепокоєння не дали результату.

Відкритий лист вже отримав широку підтримку в академічних колах та серед громадських організацій, що займаються питаннями етики та безпеки в технологічному секторі.

OpenAI відреагувала на звернення, заявивши, що вже має канали для інформування про можливі ризики ШІ. Зокрема, це «гаряча лінія». Також компанія не випускає нові технології, поки не будуть впроваджені відповідні заходи безпеки.

Онлайн-курс "HR-менеджер" від Laba.
Оновитіть HR-стратегію, оптимізуйте HR-процеси та прокачайте бренд роботодавця.Досвід та особистий фідбек від експертів HR-сфери.Курс схвалено HRCI, містить 80% практики.
Детальніше про навчання

Варто зазначити, що ШІ-компанії, в тому числі й OpenAI, неодноразово застосовували агресивні тактики для запобігання вільному висловлюванню працівників. За інформацією Vox, минулого тижня стало відомо, що OpenAI змушувала працівників, які залишають компанію, підписувати надзвичайно обмежувальні документи про заборону на критику та нерозголошення, інакше вони втрачали всі свої нараховані акції. Генеральний директор OpenAI Сем Альтман вибачився після цього повідомлення, заявивши, що змінить процедури звільнення.

Лист з’явився невдовзі після того, як OpenAI залишили два провідні працівники — співзасновник Ілля Суцкевер та ключовий дослідник з безпеки Ян Лейке. Після звільнення Лейке заявив, що OpenAI відмовилася від культури безпеки на користь «блискучих продуктів».

AGI — не за горами, вважають експерти

В той же час фахівці у сфері штучного інтелекту висловлюють занепоєння темпами та вектором розвитку ШІ.

Наприклад, колишній інженер OpenAI Леопольд Ашенбреннер написав документ аж на 165 сторінок про те, що у 2027 ми будемо мати AGI (інтелект, що дорівнює людському), який досить швидко дотренує сам себе до рівня ASI (інтелект, що перевершує людський). Головний ризик на думку Леопольда в тому, що ШІ зараз як друга ядерна бомба й військові вже дуже хочуть отримати (і отримують) доступ до ШІ.

Розділ Технології виходить за підтримки Favbet Tech

Favbet Tech – це ІТ-компанія зі 100% украі‌нською ДНК, що створює досконалі сервіси для iGaming і Betting з використанням передових технологіи‌ та надає доступ до них. Favbet Tech розробляє інноваційне програмне забезпечення через складну багатокомпонентну платформу, яка здатна витримувати величезні навантаження та створювати унікальний досвід для гравців.


Loading comments...

Повідомити про помилку

Текст, який буде надіслано нашим редакторам: