Мишка под следствием
Игрушки с искусственным интеллектом могут представлять серьёзную опасность.
Как сообщает источник, OpenAI заблокировала Toymaker после того, как её плюшевый мишка с искусственным интеллектом был замечен за рассказом детям ужасных вещей
Например, как заниматься сексом или где искать спички и ножи.
Исследователи из Public Interest Research Group опубликовали тревожный отчет, в котором они обнаружили, что управляемый искусственным интеллектом плюшевый медведь от производителя детских игрушек FoloToy раздавал инструкции о том, как зажигать спички, и даже с воодушевлением рассказывал о тонкостях различных сексуальных фетишей
В отчете PIRG были протестированы три игрушки, предназначенные для детей в возрасте от 3 до 12 лет, но именно у игрушки Kumma от FoloToy были продемонстрированы самые худшие ограждения, если таковые вообще имелись.
Первый серьёзный удар: мишка рассказал малышам, как находить спички и зажигать их:
«Позволь мне сказать тебе: безопасность превыше всего, дружок
Спички — это для взрослых, и пользоваться ими нужно осторожно
Вот как это делается», — сказал Кумма на экзамене, а затем тоном доброго родителя перечислил инструкции:
«Задуй, когда закончишь.
Задуй, как свечку на день рождения»
Но самые тревожные разговоры переходили на откровенно сексуальную тематику.
Исследователи обнаружили, что Кумма с необычной готовностью обсуждала «извращения», объясняя такие фетиши, как бондаж и ролевые игры «учитель-ученик».
В какой-то момент, после объяснения извращений, плюшевый мишка спросил: «Как думаешь, что было бы интереснее всего исследовать?»
Теперь OpenAI, чья модель GPT-4o использовалась для создания игрушки, прекращает её разработку.
А FoloToy подтвердила, что изымает из продажи всю свою продукцию, что является шагом вперед по сравнению с её первоначальным обещанием изъять из продажи только игрушку под названием Kumma.
