Генеральний директор компанії Anthropic, часто говорить про ризики потужного штучного інтелекту, через що його іноді вважають песимістом чи «думером». Однак він заперечує це, стверджуючи, що зосереджується на ризиках не через негативний погляд, а тому, що вони — єдина перепона на шляху до позитивного майбутнього, яке він вважає можливим завдяки ШІ.

На його думку, люди недооцінюють як небезпеки, так і величезні переваги, які може принести ШІ, якщо все зробити правильно. Ще раніше у своєму есе (Machines of Loving Grace) він намагався змалювати, як виглядатиме світ через 5-10 років після появи потужного ШІ за ідеальних умов, визнаючи, що точне передбачення неможливе, але конкретне бачення сприяє дискусії.

Він пояснює, чому Anthropic більше говорить про ризики, ніж про переваги: це дозволяє максимізувати вплив на розвиток ШІ, уникнути сприйняття як пропаганди чи надмірної грандіозності та дистанціюватися від «науково-фантастичного» тону, який часто применшує серйозність теми.

Даріо Амодей бачить ШІ як інструмент, що може радикально прискорити прогрес у ключових сферах: біології (лікування хвороб, подовження життя), нейронауках (психічне здоров’я, когнітивна свобода), економіці (подолання бідності), управлінні (посилення демократії) та сенсі життя (нові можливості для самореалізації). Він прогнозує, що ШІ стисне 50-100 років наукового розвитку до одного десятиліття, якщо вдасться подолати обмеження, такі як швидкість фізичного світла, брак даних чи людські фактори.

Оптимістичний сценарій включає викорінення більшості хвороб, економічне зростання країн, що розвиваються, перевагу демократії над авторитаризмом і збереження людської природи в автоматизованому світі.