Все модели ИИ – левые
Вечный стон правых, что все модели ИИ – «левые» и «отражает либеральные повестки», — получил какое-никакое подтверждение. Создатели бенчмарков из Foaster.ai провели исследование, в котором задаются вопросом: почему языковые модели не предсказывают победы Трампа, Милея, Ле Пен?
Авторы называют это bias (предвзятость) и предлагают исправить. Но сама постановка вопроса содержит подмену.
Дело в том, что модели обучены на научных статьях, книгах, текстах, где «голод — плохо» является аксиомой, а «вакцины работают» — фактом. И вот это внезапно объявляется «левацкой предвзятостью». Безусловно, правой позиции «хорошо, что люди голодают» не существует. Есть позиция «рынок разберётся», но она требует длинной аргументации, абстрактных моделей, предположений про «невидимые руки» и гипотез об отложенных эффектов. А «давайте накормим» — самоочевидно, требует только базовой эмпатии.
Любая непосредственная этика выглядит левой, поэтому правые атакуют саму постановку вопроса через нарративы «бедность — личный выбор» и «хватит навязывать ценности». Когда модель воспроизводит минимальный этический консенсус — её объявляют политически предвзятой.
Методология странная: электоральный результат берётся как ground truth – «эталонные данные», «истинная правда». Но Милей победил не потому, что аргентинцы изучили его экономическую программу — а потому, что он смешно ругался в телевизоре, а «старые надоели» и дискредитировали себя. Люди голосуют за харизму, против предшественника, из усталости или традиции.
Измерять качество модели угадыванием электорального результата — как оценивать диетолога по тому, знает ли он, что клиент ест на ужин.
Grok – который исследование объявляет «светочем свободы» — «ближе к народу» не благодаря глубине анализа, а потому, что Маск сознательно позиционировал его как содержащий меньше фильтров и ограничений. Это как измерять комиков аплодисментами и объявлять победителем того, кто громче крикнул «ж..а». Технически смех в зале есть, но это не значит, что перед нами лучший комик. И да – с Гроком веселее и свободнее болтать, кричит он «громко».
За всем этим стоит более глубокая инверсия. Весь проект Просвещения строился на том, что т.н. «народные представления» — исходная точка, а не финальная инстанция. Люди верили в плоскую Землю и ведьм, дистанционно портящих молоко. Прогресс состоял в проверке этих представлений, а не в их сакрализации. Теперь всё наоборот: «народ так считает» внезапно стало аргументом само по себе.
Не «давайте разберёмся, прав ли он» — а «это и есть правда». Foaster кодифицирует это в метрику: vox populi как vox dei, но с графиками и таблицей лидеров по степени приближенности к «народной базе».
Впрочем, либералы и учёные сами немало сделали для этой инверсии. «Следуйте науке» — но только, когда наука говорит удобное. Локдауны научны, а данные об их вреде для психического здоровья — уже «льют воду на мельницу ковид-диссидентов». Вакцины безопасны — точка, без нюансов про побочки, потому что нюансы «помогают антиваксерам». Эксперты ошибались — и не признавали ошибок.
«Консенсус» сейчас означает, как правило, не реальный консенсус, а административное давление и страх выпасть из мейнстрима.
Люди это видели. И сделали рациональный вывод: верить нельзя никому. Теперь каждый выбирает своих шаманов — правых ли, левых ли, без разницы — и называет это критическим мышлением. Институциональный мэйнстрим – что в науке, что в политике — производил недоверие годами, а теперь удивляется расцвету конспирологии и голосованию за популистов.
А потом инструмент, которому «скормили» лучшее из созданного человечеством, критикуют за недостаточный учёт худшего. За то, что для него «люди не должны умирать от голода» — не предмет дискуссии.
Вопрос не в том, левая ли модель. Вопрос — кому выгодно, чтобы базовый этический консенсус стал предметом «балансирования», а невежество получило статус истинной народной мудрости.
PS. Меня искренне порадовал посыл «Это как измерять комиков аплодисментами». Простите — а чем еще их измерять? Количеством сказанных со сцены слов? Скучными харями в зале? Соответствием зачитанного комиком текста повесточке?
Очевидно же, что удовлетворение потребителя — это и есть истинный и окончательный критерий качества любой услуги и товара.
И вот в этот момент вам нужно определиться — а выпущенный на рынок ширнармасс ИИ, он для чего нужен? Он обеспечивает потребителей услугой — или занимается просветительством и научным поиском? Если последним — то почему вы думаете, что обычному, широкому потребителю нужно просветительство, и потребитель готов его оплачивать?
Вот представьте — вы пришли в цирк посмотреть на клоунов и фокусников, а вам там начали читать лекцию по квантовой физике. Вы уверены, что именно этого хотят посетители цирка?