 |
опубликовано вчера
обновлено вчера |
В США произошёл показательный инцидент, связанный с ложным срабатыванием системы искусственного интеллекта.
Он может показаться забавным курьезом. Но только, если вы не 16-летний американец африканской внешности по имени Аллен. Ему не забавно.
Вооруженная полиция велела ему встать на колени, руки за голову и всё вот это. Спасибо, что не застрелили.
Система обнаружения огнестрельного оружия, оснащённая искусственным интеллектом, сканировала территорию школы. Мятый пакет чипсов Doritos в руках ученика был ошибочно идентифицирован как пистолет. Искусственный интеллект объявил тревогу, школа была заблокирована, а полиция прибыла на место с полным вооружением.
Наверно, если бы система контролировалась человеком и решение о дальнейших мерах реагирования принимал оператор, он бы мог бы вовремя остановить.
Но «умная» система принимает решение автономно, а дальше работает протокол реагирования, уже никто не может остановить.
Аллен говорит что теперь боится идти в школу, особенно с чипсами. Компания разработчик системы обещает улучшить алгоритмы.
Он может показаться забавным курьезом. Но только, если вы не 16-летний американец африканской внешности по имени Аллен. Ему не забавно.
Вооруженная полиция велела ему встать на колени, руки за голову и всё вот это. Спасибо, что не застрелили.
Система обнаружения огнестрельного оружия, оснащённая искусственным интеллектом, сканировала территорию школы. Мятый пакет чипсов Doritos в руках ученика был ошибочно идентифицирован как пистолет. Искусственный интеллект объявил тревогу, школа была заблокирована, а полиция прибыла на место с полным вооружением.
Наверно, если бы система контролировалась человеком и решение о дальнейших мерах реагирования принимал оператор, он бы мог бы вовремя остановить.
Но «умная» система принимает решение автономно, а дальше работает протокол реагирования, уже никто не может остановить.
Аллен говорит что теперь боится идти в школу, особенно с чипсами. Компания разработчик системы обещает улучшить алгоритмы.
