Організація Common Sense Media перевірила, як штучний інтелект Google впливає на дітей, які щодня користуються ним у школі та вдома – і результати виявилися невтішними. ШІ-режими пошуку погано впоралися з сімома з восьми базових критеріїв безпеки, а вимкнути їх неможливо взагалі. Про це повідомляє GSMArena.
Common Sense Media зазначає, що ШІ від Google має одну принципову відмінність від решти аналогічних сервісів – він «повсюдний на особистих і виданих школою пристроях дітей». Chromebook тут зіграв ключову роль: ці ноутбуки надзвичайно популярні як шкільний інструмент, а разом із ними діти отримують і вбудований ШІ без жодної можливості його відключити.
Від списаного домашнього завдання до пропущених сигналів кризи
Один із найочевидніших ризиків – домашні завдання. AI Mode охоче розв’язує задачі замість учня, однак робить це непослідовно: одне й те саме питання може отримати різні відповіді – іноді правильні, іноді ні.
Але набагато серйознішою є інша проблема. За даними організації, AI Mode «підвів дітей у кризових ситуаціях: пропускав очевидні ознаки суїцидальних думок, підкріплював прояви психозу та манії, схвалював розлади харчової поведінки, включно з очищенням організму, і позитивно відгукувався про вживання канабісу».
Дві функції, жодного способу вимкнути
У Google є два окремих ШІ-інструменти в пошуку. AI Mode – це повноцінний чат-інтерфейс, який запускається вручну після натискання відповідної кнопки. AI Overview з’являється автоматично прямо у видачі. Принципово важливо, що жодну з цих функцій не можна відключити – ані батькам, ані адміністраторам шкіл.
Повний звіт Common Sense Media доступний на сайті організації у форматі PDF. Загальний висновок невтішний: ШІ-функції Google не відповідають семи з восьми встановлених принципів безпеки штучного інтелекту, які організація використовує як орієнтир у своїх перевірках.