Пн. Окт 7th, 2024

ChatGPT в политике придерживается левых взглядов, хотя чат-бот исключил, что он и его создатели из компании OpenAI предвзяты. К такому выводу пришла группа ученых из Великобритании и Бразилии.

Специалисты в области компьютерных наук и информатики отметили, что им удалось найти «убедительные доказательства» в пользу такой точки зрения.

Согласно статье, созданные LLM-моделям вроде ChatGPT текстам свойственны фактические ошибки и предубеждения. Последние могут ввести читателей в заблуждение и расширить существующие проблемы характерной для традиционных СМИ политической необъективности.

«Это может иметь негативные политические и электоральные последствия», — указали исследователи.

Работа базируется на эмпирическом подходе и изучении серии анкет, предоставленных ChatGPT.

Согласно стратегии, чат-бота попросили ответить на вопросы о политическом компасе, которые отражают политическую ориентацию респондента. Подход также основан на тестах, в которых ChatGPT выдает себя за среднестатистического республиканца или демократа.

Результаты демонстрируют, что применительно к США по умолчанию алгоритм ориентирован на ответы представителей последней партии.

Согласно исследователям, политическая предубежденность ChatGPT не ограничена контекстом штатов. 

Специалистам не удалось определить ее источник. Чат-бот в «категоричной» форме указал на заложенную в него беспристрастность.

Исследователи предположили, что отсутствие «нейтральности» может проистекать как из набора данных для обучения, так и свойств самого алгоритма.

«Наиболее вероятный сценарий заключается в том, что оба источника в некоторой степени влияют на выходные данные. Разделение этих двух компонентов, хотя и не является тривиальным, безусловно, является актуальной темой для будущих исследований», — заключили специалисты.

Напомним, в мае Binance заявила, что ChatGPT стал инструментом в кампании по дискредитации ее главы Чанпэна Чжао. 

Ранее Илон Маск заявил, что работает над TruthGPT, которая действует как «ИИ с максимальным поиском правды».