Механизмы контроля? Его практически не существует.
Люди всё чаще полагаются исключительно на ИИ, не проверив предварительно алиби и не имея дополнительных доказательств. Сцена напоминает роман-антиутопию: мужчину посреди ночи вытаскивают из постели и уводят в наручниках - только потому, что искусственный интеллект ошибочно приписал его лицо.
Но именно это и происходит в Соединённых Штатах с тревожной регулярностью. Недавнее расследование Washington Post показало, что несколько полицейских управлений по всей стране арестовывают людей, единственное «преступление» которых заключается в том, что система распознавания лиц с помощью искусственного интеллекта ошибочно идентифицировала их как преступников. Из 23 проверенных полицейских управлений 15 агентств в 12 штатах произвели аресты только на основании результатов ИИ – без каких-либо дополнительных доказательств. Особое беспокойство вызывает то, что в некоторых отчётах говорится, что непроверенные обнаружения ИИ были «100% совпадениями». По меньшей мере восемь человек были явно арестованы ошибочно; два случая ещё не были обнародованы.
Шаг в очень мрачное будущее.
Присоединяйтесь к ОК, чтобы подписаться на группу и комментировать публикации.
Комментарии 2