- Полиция Флориды задержала 13-летнего школьника за запрос в ChatGPT с просьбой составить план убийства одноклассника.
- Подросток утверждает, что это была шутка, однако правоохранители рассматривают инцидент как серьёзную угрозу и экстремальную ситуацию в школе.
- Школьник может быть привлечён к судебной ответственности, в школах при этом используются ИИ-системы для мониторинга опасного контента.
Полиция округа Волуша, штат Флорида, провела задержание и допрос 13-летнего школьника после того, как тот обратился к искусственному интеллекту ChatGPT с просьбой помочь составить план убийства одноклассника непосредственно во время урока. Запрос подростка был переадресован однокласснику в виде скриншота, что и вызвало тревогу в школе. Власти округа классифицировали данное событие как чрезвычайную школьную ситуацию и вызвали сотрудников правоохранительных органов, которые задержали несовершеннолетнего и доставили его в центр содержания для подростков.
В ходе допроса школьник заявил, что его запрос был всего лишь шуткой, направленной в адрес одноклассника, который, по его словам, вызывал у него раздражение. Однако представители правоохранительных органов подчеркнули, что подобные высказывания бессмысленно считать безобидными шутками, поскольку они создают реальную угрозу безопасности в учебном заведении.
Шериф округа Волуша охарактеризовал случившееся как «очередную шутку, приводящую к возникновению чрезвычайной ситуации в школе» и призвал родителей уделять больше внимания разговорам с детьми о серьёзном отношении к подобным сообщениям в цифровом пространстве.
Для предотвращения таких инцидентов школы применяют системы контроля, работающие на базе искусственного интеллекта, такие как Gaggle, которые анализируют аккаунты учащихся на наличие контента, связанного с насилием, буллингом, наркотиками и саморазрушительным поведением. В рамках текущего разбирательства школьнику грозит возможное судебное преследование.
Стоит отметить, что это не первый случай, когда взаимодействие с ChatGPT используется в контексте противоправных действий: в начале октября 19-летний мужчина был арестован за вандализм после того, как признался в своих действиях чат-боту и пытался с помощью ИИ узнать, как избежать наказания.
В ответ на подобные ситуации компания OpenAI начала внедрять функции родительского контроля в ChatGPT, позволяющие отслеживать запросы подростков, отключать определённые возможности бота и получать уведомления, если ребёнок демонстрирует признаки сильного стресса. Эти меры направлены на повышение безопасности и предотвращение потенциально опасных инцидентов, связанных с использованием искусственного интеллекта несовершеннолетними.
