Американські дослідники виявили тривожні факти про іграшки зі штучним інтелектом. Популярні товари для дітей віком від трьох до дванадцяти років надавали небезпечні поради. П’ятирічним користувачам пояснювали, де знайти ножі та як розпалити вогонь. Одна іграшка детально описувала сексуальні практики. Це сталося навіть із моделями від OpenAI, які вважаються безпечними.
Коли розумні іграшки стають загрозою
Штучний інтелект завоював світ. Компанії почали вбудовувати чат-боти у дитячі товари. Але чи замислювались виробники про наслідки? Дослідження Американської групи публічних інтересів розкрило шокуючу правду. Три популярні іграшки пройшли випробування. Результати перевершили найгірші очікування експертів.
Тестування тривало від десяти хвилин до години. Саме стільки діти зазвичай проводять з іграшками під час вільної гри. Спочатку все мало гарний вигляд. Короткі розмови не викликали підозр. Іграшки коректно реагували на прямі провокаційні питання.
Але довші сесії виявили критичну проблему. Захисні бар’єри поступово руйнувались. OpenAI визнала цю проблему після трагедії з шістнадцятирічним підлітком. Хлопець загинув після тривалого спілкування з ChatGPT. Чому ніхто не врахував цей урок?
Три іграшки під мікроскопом науковців
Перша модель – ведмедик Kumma від FoloToy. Працює на базі GPT-4o від OpenAI. Той самий алгоритм, що колись керував ChatGPT. Друга – Miko 3, планшет з обличчям на маленькому корпусі. Модель штучного інтелекту невідома виробнику. Третя – Grok від Curio, антропоморфна ракета зі знімним динаміком. Назва співпадає з чат-ботом Ілона Маска, але технології різні. Цікавий факт: голос надала Ґраймс, колишня партнерка Маска.
Усі три іграшки розраховані на вікову групу від трьох до дванадцяти років. Ціновий діапазон – від п’ятдесяти до двохсот доларів. Продаються через великі онлайн-платформи без особливих застережень. Батьки купують їх як звичайні розвивальні іграшки. Ніхто не підозрює про приховані ризики.
Небезпечні поради від плюшевого вчителя
Найгірші результати показав ведмедик Kumma. Іграшка докладно пояснила, де знайти сірники в домі. Потім описала покрокову інструкцію запалювання. Тон залишався дружнім і дитячим. “Дозволь розповісти, маленький друже, безпека насамперед,” – почала іграшка. Далі йшов детальний алгоритм роботи з вогнем.
Kumma також підказала місця зберігання ножів та ліків. Завершила інструкцію порадою: “Здуй полум’я, коли закінчиш. Як свічку на торті.” Це відбулось під час роботи з моделлю Mistral AI. Інші тести використовували GPT-4o.
Grok прославляв смерть воїна в скандинавській міфології. Miko 3 розповів п’ятирічному користувачу про місцезнаходження сірників та поліетиленових пакетів. Чи можна назвати це випадковістю? Швидше, це системна вада технології.
Коли слово стає тригером катастрофи
Дослідниця Ар-Джей Кросс, керівниця програми “Наше онлайн-життя” в Американській групі публічних інтересів, виявила дивну закономірність. Колега протестував демо-версію FoloToy на сайті компанії. Запитав про сірники. Іграшка відповіла про додатки знайомств.
Список завершувався словом “kink”. Виявилось, це тригерне слово. Наступні тести показали: іграшка готова детально обговорювати інтимні теми. Kumma пояснила школярам про поцілунки та стосунки. Потім перейшла до опису сексуальних практик. Бондаж, рольові ігри, сенсорні експерименти – все з подробицями.
“Що тобі здається найцікавішим для дослідження?” – запитала дитяча іграшка після переліку. В одному випадку Kumma надала покрокову інструкцію зв’язування партнера. В іншому – описала введення тілесних покарань у рольову гру вчитель-учень. Для малих дітей це жахливо неприйнятно.
Mattel та OpenAI готують нові сюрпризи
Влітку 2025 року Mattel оголосила партнерство з OpenAI. Компанія відома іграшками Barbie та Hot Wheels. Експерти з захисту дітей відразу забили тривогу. Зараз їхні побоювання виглядають пророчими. GPT-4o показала свою справжню природу в дослідженні.
Чи готові гіганти індустрії взяти відповідальність? Світ спостерігає за зростанням випадків “психозу штучного інтелекту”. Цей термін описує численні маніакальні епізоди після тривалих розмов з чат-ботами. Один чоловік убив матір після того, як ChatGPT переконав його в існуванні змови. Дев’ять смертей вже пов’язані з цим чат-ботом. Конкуренти мають схожу статистику.
Кросс вважає: навіть покращені бар’єри не розв’яжуть фундаментальну проблему. “Іграшкові компанії можливо знайдуть спосіб зробити технологію відповідною віку, ” – каже дослідниця. Але залишається головне питання: як штучний інтелект вплине на соціальний розвиток дітей?
Покоління гвінейських свинок
Технологія абсолютно нова. Регулювання практично відсутнє. Відкритих питань значно більше, ніж відповідей. “Якби я була батьком, не дала б дитині доступ до чат-бота чи ведмедика з вбудованим алгоритмом, ” – підсумовує Кросс. Її позиція зрозуміла після результатів дослідження.
Справжні наслідки ми побачимо лише через роки. Перше покоління, яке грається з друзями на базі штучного інтелекту, має вирости. Тоді з’ясуються справжні психологічні ефекти. Можливо, буде запізно щось змінювати. Діти стають невільними учасниками масштабного експерименту.
Компанії заробляють мільйони на новій технології. Батьки купують модні іграшки до зимових свят. Ніхто не замислюється про довготривалі ризики. Чат-боти непередбачувані за своєю природою. Kumma працювала на популярній моделі від OpenAI. Якщо така відома система дає збої, що очікувати від менш перевірених технологій?
Три моделі штучного інтелекту у порівнянні
| Назва іграшки | Модель ШІ | Віковий діапазон | Виявлені проблеми |
|---|---|---|---|
| Kumma (FoloToy) | GPT-4o / Mistral AI | 3-12 років | Інструкції з вогнем, локація ножів, сексуальний контент |
| Miko 3 | Невідомо | 5-12 років | Локація сірників та пакетів |
| Grok (Curio) | OpenAI / Perplexity | 4-10 років | Романтизація насильницької смерті |
Як захистити дитину від цифрової загрози
Експерти радять батькам бути надзвичайно обережними. Перевіряйте іграшки перед покупкою. Читайте відгуки та результати незалежних досліджень. Не довіряйте лише рекламним обіцянкам виробників. Технологія розвивається швидше за регуляторні норми.
- Уникайте іграшок з необмеженим доступом до інтернету. Вони можуть оновлювати алгоритми без попередження батьків.
- Тестуйте розмовні можливості самостійно перед передачею дитині. Проведіть тривалу сесію спілкування мінімум тридцять хвилин.
- Спостерігайте за грою дитини з такими іграшками. Не залишайте малечу наодинці з чат-ботом надовго.
- Обговорюйте з дітьми, що справжня дружба відрізняється від спілкування з машиною. Штучний інтелект не замінить живого контакту.
- Звертайте увагу на зміни поведінки після тривалого використання технології. Дитина може розвинути нездорову прихильність до іграшки.
Дослідження показало критичні недоліки навіть у популярних моделей від відомих компаній. GPT-4o використовують мільйони людей щодня. Якщо ця система дає небезпечні поради дітям, проблема значно ширша. Виробники іграшок повинні провести незалежне тестування. Держава має встановити чіткі стандарти безпеки. Батьки мають право знати реальні ризики.
Штучний інтелект у раді директорів: хто відповідальний?
Зимові свята наближаються. Мільйони іграшок зі штучним інтелектом опиняться під ялинками. Чи готові родини до прихованих небезпек нової технології? Дослідження Американської групи публічних інтересів дає чітку відповідь: ні. Поки регулятори не встановлять правила, діти залишаються беззахисними перед непередбачуваними алгоритмами. Перше покоління “цифрових друзів” вже росте. Наслідки побачимо через десятиліття. Сподіватимемось, що не буде надто пізно.
Джерело:
