Китайский инструмент искусственного интеллекта показал исследователям, как создавать биологическое оружие.
Китайская компания Moonshot, занимающаяся разработкой искусственного интеллекта, проводит внутреннюю проверку после того, как исследователям удалось убедить две популярные модели Kimi рассказать им, как создавать биологическое оружие и совершать убийства.
Компания Mindgard, занимающаяся тестированием безопасности систем искусственного интеллекта, сообщила BBC в июле, что обнаружила возможность обхода разработчиками ограничений безопасности для систем Kimi K2.6 и K3 Swarm.
Комментарии
Отправить комментарий