Пошуковик Google розпочинає впровадження нової моделі машинного навчання MUM, яка має знаходити «широкий спектр особистих пошукових запитів у кризових ситуаціях».
Вперше ця система була представлена на конференції I/O 2021, і зараз MUM зможе виявляти пошукові запити, пов’язані зі складними особистими ситуаціями.
«MUM може допомогти нам зрозуміти довші чи складніші питання, такі як «чому він напав на мене, коли я сказала, що не люблю його». Для людей може бути очевидно, що цей запит стосується домашнього насильства, але такі довгі запити природною мовою нашим системам важко зрозуміти без просунутого штучного інтелекту».
Енн Меррітт, менеджер з продуктів Google у галузі охорони здоров’я та якості інформації
Інші приклади запитів, на які система може реагувати, наприклад, «найпоширеніші способи скоєння самогубства». Як каже Меррітт, раніше алгоритми «могли розуміти запит як пошук інформації». Тепер, коли Google виявляє такий запит, він виводить інформаційне вікно «Допомога доступна», яке зазвичай супроводжується номером телефону або вебсайтом благодійної організації з охорони психічного здоров’я.
Проте, експерти в галузі ШІ вважають, що широке використання мовних моделей машинного навчання може призвести до появи нових проблем, наприклад, упередженість та дезінформація у результатах пошуку. Системи штучного інтелекту також є непрозорими, пропонуючи інженерам обмежене уявлення про те, як вони приходять до певних висновків.
Видання The Verge поцікавилося у Google, як можна перевірити, які пошукові запити, визначені MUM, пов’язані з особистими кризами. Представники пошукача або не захотіли або не змогли відповісти. Компанія заявляє, що ретельно тестує зміни у своїх пошукових продуктах за допомогою людей-оцінювачів, але це не те саме, що заздалегідь знати, як ваша система ШІ реагуватиме на певні запити.