Искусственный интеллект YouTube заблокировал канал шахматного видеоблогера Антонио Радича, вероятно, приняв обсуждение партии за расистские оскорбления.
Один из самых популярных шахматных каналов на YouTube, который ведет хорватский шахматист-любитель Антонио Радич, был заблокирован летом «за вредоносный контент» после публикации видео с гроссмейстером Хикару Накамурой.
Техподдержка канала отказалась объяснить причины блокировки, и канал был восстановлен через 24 часа. Однако за дело взялись компьютерщики из Университета Карнеги — Меллон, рассказывает Daily Mail. Они провели тесты на двух классификаторах речи, использующих ИИ для обнаружения «языка вражды».
Анализ 680 000 комментариев на шахматных каналах YouTube показал, что 82% комментариев, отмеченных ИИ как «вредоносные», не содержали расистских высказываний, зато упоминали термины «черные», «белые», «атака» и «угроза».
«Мы не знаем, какие инструменты использует YouTube, но, если они полагаются на искусственный интеллект для обнаружения расистских высказываний, такие вещи будут продолжать случаться», — сказал один из исследователей, Ашикур ХудаБухш из Института языковых технологий.
YouTube, в свою очередь, не раскрывает своих алгоритмов, но напомнил, что восстанавливает контент, если тот был удален по ошибке. Для этого владелец канала должен обратиться с запросом в техподдержку.
Чуть ранее алгоритм другой соцсети заблокировал снимок «излишне сексуальной» коровы. Известны также курьезные случаи, когда ИИ перепутал с мячом лысую голову футбольного судьи, а на гонках беспилотных автомобилей отправил болид в стену еще до старта.