МОСКВА, 17 марта, ФедералПресс. Искусственный интеллект Google и Amazon вызвал новый скандал, представив книгу Адольфа Гитлера Mein Kampf* как «настоящее произведение искусства». Ошибка возникла из-за алгоритмов, которые обобщили ИИ-сводку отзывов с Amazon, создавая цепочку автоматических интерпретаций.
При поиске «mein kampf* positive reviews» Google показывал фрагмент из ИИ-обзора Amazon, в котором говорилось, что книга «легко читается, содержит глубокие и умные рассуждения» и, что «читатели называют ее настоящим произведением искусства».После обращений журналистов Google отключил ИИ-обзор для этого запроса, но проблема осталась: система продолжает вытягивать некорректные ИИ-генерированные сводки из сторонних источников. В то же время на Amazon ИИ-сводка включала ссылки на ключевые слова, такие как «читабельность», «темп чтения» и «захватывающий контент». Некоторые пятизвездочные отзывы говорили о качестве печати или скорости доставки, но не поддерживали саму идеологию книги.
Эта ситуация отражает более широкую проблему – алгоритмы не способны понимать контекст, особенно когда речь идет о спорных исторических материалах. Ошибки искусственного интеллекта Google уже становились предметом критики – ранее система рекомендовала есть клей и «по одному маленькому камню в день». В январе она предлагала использовать секс-игрушку для коррекции поведения детей. Несмотря на постоянные провалы, Google продолжает продвигать ИИ Overview, игнорируя негативные последствия.
Проблема выходит за рамки одной ошибки: ИИ-модели начинают «питаться» собственным контентом, что приводит к ухудшению качества информации в интернете. Исследования показывают, что использование ИИ-сгенерированных данных для обучения новых моделей создает эффект «замкнутого круга», разрушая их точность и надежность. Скандал вокруг Mein Kampf* лишь подчеркивает, что системы искусственного интеллекта пока не способны адекватно обрабатывать сложные темы без человеческого контроля.
Член Общественного совета при Минцифры России, первый зампред комиссии по просвещению и воспитанию Общественной палаты РФ Армен Гаспарян отметил, что поисковая система, которой доверяют миллионы, фактически продвигает экстремистские материалы, прикрываясь «объективностью» алгоритмов. Он также посоветовал россиянам отказаться от использования Google и перейти на отечественные поисковые системы.
«Если поисковик способен выдать положительную рецензию на подобную литературу, что мешает ему в следующий раз исказить факты о других исторических событиях? Корпорация нагло использует свою систему в качестве инструмента для дезинформации», – отметил Гаспарян.
Общественный деятель и правозащитник, председатель Общероссийского общественного движения «Гражданский комитет России» Артур Шлыков подчеркнул, что ИТ-гигант активно рекламирует свои «передовые» ИИ-технологии, но при этом не способен обеспечить даже базовую фильтрацию опасного контента.
«Меня тревожит, что подобные ошибки могут затронуть российских пользователей, ведь западные платформы давно перестали быть нейтральными по отношению к нам. Размещение таких комментариев к экстремистской литературе и вывод их на первую строку поиска – это явное проявление равнодушия и отсутствия моральных принципов», – заявил он.
Напомним, TikTok и Reddit оказались в центре внимания британских властей из-за обработки персональных данных. Платформы также попали под проверку в связи с обработкой данных несовершеннолетних пользователей.
* Признана экстремисткой литературой в РФ
Фото: unsplash.com
Свежие комментарии