YouTube заблокировал популярный канал о шахматах из-за «расизма»
Администрация видеохостинга YouTube заблокировала популярный канал хорватского шахматиста Антонио Радича за «вредоносный и опасный» контент, поскольку искусственный интеллект воспринял фразу «черные против белых», которая на самом деле была о шахматах, как расизм.
Как передает Укринформ, об этом сообщает издание Independent.
Радич, известный под псевдонимом Agadmator, ведет популярный в мире шахматный канал на YouTube из более 1 млн подписчиков. В июне 2020 года его канал на YouTube был заблокирован во время представления шахматного турнира с гройсмейстером Хикару Накамурой. Однако через сутки канал разблокировали.
Радич уверен, что временное блокирование связано с фразой «черные против белых», хотя автор, на самом деле, говорил о шахматах.
Отмечается, что алгоритмы YouTube восприняли беседу шахматистов вредоносной. В то же время администрация YouTube так и не представила объяснений блокировки.
Системой модерации YouTube занимаются как сами работники компании, так и алгоритмы искусственного интеллекта, а это значит, что ИИ может неверно интерпретировать комментарии, если его не научить правильно понимать контекст.
Компьютерные специалисты из Университета Карнеги-Меллона начали расследование сбоя ИИ и смоделировали реакцию программы на видео о шахматах.
Эксперты использовали современный классификатор языка, чтобы просмотреть свыше 680 тыс. комментариев из пяти популярных шахматных YouTube-каналов.
Проверив вручную выборку из 1000 комментариев, которые искусственный интеллект классифицировал как язык вражды, они выявили, что 82% из них были неправильно истолкованы из-за употребления таких слов, как «черный», «белый», «атака» и «угроза» — всё это обычно используется в шахматном языке.
Как сообщал Укринформ, Лондонская компания DeepMind, дочернее предприятие Alphabet, создала систему обучения MuZero — искусственный интеллект научили побеждать в играх даже без знания правил.