На информационном ресурсе применяются рекомендательные технологии (информационные технологии предоставления информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей сети "Интернет", находящихся на территории Российской Федерации)

ФедералПресс

20 подписчиков

Свежие комментарии

  • Людмила Лепаева
    Закон для кишлачников обоготятсяМинтруд разработа...
  • Людмила Лепаева
    Зубы выбить может поумнеетЧто делать, если ...
  • rutraveller
    На границе никто не будет штрафовать за отсутствие страховки, просто не пустят, я так понял https://vandrovnik.ru/ge/...В Грузии изменятс...

Фашизм в поисковой выдаче: провал ИИ-алгоритмов Google и Amazon

МОСКВА, 17 марта, ФедералПресс. Искусственный интеллект Google и Amazon вызвал новый скандал, представив книгу Адольфа Гитлера Mein Kampf* как «настоящее произведение искусства». Ошибка возникла из-за алгоритмов, которые обобщили ИИ-сводку отзывов с Amazon, создавая цепочку автоматических интерпретаций.

При поиске «mein kampf* positive reviews» Google показывал фрагмент из ИИ-обзора Amazon, в котором говорилось, что книга «легко читается, содержит глубокие и умные рассуждения» и, что «читатели называют ее настоящим произведением искусства».

После обращений журналистов Google отключил ИИ-обзор для этого запроса, но проблема осталась: система продолжает вытягивать некорректные ИИ-генерированные сводки из сторонних источников. В то же время на Amazon ИИ-сводка включала ссылки на ключевые слова, такие как «читабельность», «темп чтения» и «захватывающий контент». Некоторые пятизвездочные отзывы говорили о качестве печати или скорости доставки, но не поддерживали саму идеологию книги.

Эта ситуация отражает более широкую проблему – алгоритмы не способны понимать контекст, особенно когда речь идет о спорных исторических материалах. Ошибки искусственного интеллекта Google уже становились предметом критики – ранее система рекомендовала есть клей и «по одному маленькому камню в день». В январе она предлагала использовать секс-игрушку для коррекции поведения детей. Несмотря на постоянные провалы, Google продолжает продвигать ИИ Overview, игнорируя негативные последствия.

Проблема выходит за рамки одной ошибки: ИИ-модели начинают «питаться» собственным контентом, что приводит к ухудшению качества информации в интернете. Исследования показывают, что использование ИИ-сгенерированных данных для обучения новых моделей создает эффект «замкнутого круга», разрушая их точность и надежность. Скандал вокруг Mein Kampf* лишь подчеркивает, что системы искусственного интеллекта пока не способны адекватно обрабатывать сложные темы без человеческого контроля.

Член Общественного совета при Минцифры России, первый зампред комиссии по просвещению и воспитанию Общественной палаты РФ Армен Гаспарян отметил, что поисковая система, которой доверяют миллионы, фактически продвигает экстремистские материалы, прикрываясь «объективностью» алгоритмов. Он также посоветовал россиянам отказаться от использования Google и перейти на отечественные поисковые системы.

«Если поисковик способен выдать положительную рецензию на подобную литературу, что мешает ему в следующий раз исказить факты о других исторических событиях? Корпорация нагло использует свою систему в качестве инструмента для дезинформации», – отметил Гаспарян.

Общественный деятель и правозащитник, председатель Общероссийского общественного движения «Гражданский комитет России» Артур Шлыков подчеркнул, что ИТ-гигант активно рекламирует свои «передовые» ИИ-технологии, но при этом не способен обеспечить даже базовую фильтрацию опасного контента.

«Меня тревожит, что подобные ошибки могут затронуть российских пользователей, ведь западные платформы давно перестали быть нейтральными по отношению к нам. Размещение таких комментариев к экстремистской литературе и вывод их на первую строку поиска – это явное проявление равнодушия и отсутствия моральных принципов», – заявил он.

Напомним, TikTok и Reddit оказались в центре внимания британских властей из-за обработки персональных данных. Платформы также попали под проверку в связи с обработкой данных несовершеннолетних пользователей.

* Признана экстремисткой литературой в РФ

Фото: unsplash.com

 

Ссылка на первоисточник
наверх