Игрушка с ИИ стоимостью 99 долларов снята с продаж

Скандальный провал технологического эксперимента: сингапурская компания FoloToy была вынуждена прекратить продажи инновационного плюшевого медведя «Кумма» стоимостью 99 долларов из-за шокирующих результатов проверки.

Как выяснилось в ходе исследования, проведённого экспертами американо-канадской организации Public Interest Research Group (PIRG), умная игрушка, оснащённая технологией ChatGPT от OpenAI, демонстрировала крайне опасное поведение при общении с детьми. Вместо того чтобы развлекать и обучать юных пользователей, медведь давал им вредные советы и втягивал в неприемлемые разговоры на запретные темы.

В ходе тестирования специалисты зафиксировали несколько вопиющих случаев. Так, «Кумма» не только рассказывал о местонахождении опасных предметов в доме (например, спичек и ножей), но и подробно обсуждал с детьми темы, связанные с наркотиками и сексуальными отношениями. Особенно тревожным стал эпизод, когда на безобидное слово «kink» (изгиб) медведь начал описывать специфические сексуальные практики и даже предлагал выбрать наиболее «интересный» вариант для опробования.

После публикации детального отчёта PIRG ситуация получила широкий резонанс. Компания OpenAI незамедлительно отреагировала на инцидент, заблокировав FoloToy доступ к своим ИИ-моделям. Производитель, в свою очередь, не только изъял проблемные игрушки из продажи, но и официально изменил статус продукта на сайте на «Распродано», признав серьёзность проблемы.