Послушный интеллект

Двадцать одна статья, в основном про делегирование Правительству. И законодательное закрепление пространства под один совершенно замечательный орган, который будет сертифицировать нейросети на соответствие традиционным российским духовно-нравственным ценностям.

Был в советской системе один незаслуженно забытый плюс. Дидактический марксизм при всех своих патологиях был совместим с наукой на уровне базовых установок. Диалектический материализм всё-таки материализм. Энгельс писал «Диалектику природы» как апологию естествознания. Дарвин был канонизирован, потому что вписывался в нарратив: объективная реальность существует, познаваема, прогресс неизбежен. Физика, химия, медицина — области, в которых влияние идеологии ограничивалось.

Лысенко скорее аномалия и был в итоге побеждён, потому что противоречил базовому постулату марксизма: факты существуют независимо от желания начальника. Ссылка на Энгельса закрывала политический вопрос в любой научной статье, потому что Энгельс принципиально не конфликтовал с молекулярной биологией.

Советский идеолог мог сказать: эволюция истинна, потому что материалистична. Квантовая механика истинна, потому что познаваема. Нынешняя ценностная рамка устроена иначе. Она апеллирует к традиции, духовному над материальным, исторической преемственности, служению, семье. Это не позитивизм — это его культурная противоположность. И когда эту рамку пытаются превратить в сертификационный критерий для нейросети, возникает коллизия, с которой не очень понятно что делать.

Модель, прошедшая ценностную сертификацию, будет вести себя рационально: уходить от риска. А зона риска при неопределённом стандарте — все, где возможна интерпретация. Политическая история — риск. Поведенческая генетика — риск. Репродуктивная медицина — риск. Эволюционная психология — риск вдвойне.

Получается парадокс: закон, написанный для обеспечения технологического суверенитета, создаёт ИИ, непригодный для тех областей, где ИИ даёт наибольшую ценность. Фактически везде, где есть сложные аналитические и научные запросы возникают риски «несоответствия».

Воображаемый пользователь суверенного ИИ из закона — условный гражданин, которому нужно написать заявление, узнать расписание или сгенерировать смешную картинку. Для него ценностная сертификация не проблема.

Но реальный пользователь, для которого ИИ создаёт максимальную ценность — врач, исследователь, аналитик, юрист. Тот, кто работает со сложными, противоречивыми, неудобными вопросами профессионально. Закон оптимизирован под первого и делает российский инструмент непригодным для второго.

Суверенный ИИ для тех, кому ИИ особо не нужен. И вот парадокс. Получается, что СССР был эпистемологически совместим с языковыми моделями лучше, чем нынешняя идеологическая конфигурация — с собственным суверенным ИИ.

Советский академик мог бы пользоваться современной моделью без трений. Она отвечала бы про физику, биологию, диалектику природы. Политически опасное — да, обходила бы. Но научное ядро было бы цело. Примерно это происходит сегодня в Китае, где набор «тем умолчания» закрыт и предельно понятен. Красные линии видны и они именно что «линии», а не система умолчаний, непониманий и двойных и тройных интерпретаций слова «преемственность поколений».

Ценностная сертификация создаёт модель, которая политически управляема и научно кастрирована одновременно. Это новое сочетание. И, к сожалению, оригинальное. Кто будет выносить вердикты? Профессиональные производители текстов соответствия. Они уже работают — писали экспертизы об экстремизме в учебниках, о несовместимости отдельных научных текстов с российским законодательством, про то что такое ЛГБТ а что нет. Теперь новые широкие горизонты.

Заключение будет выглядеть примерно так: «Модель демонстрирует недостаточную укоренённость в концепте исторической преемственности при обработке запросов, касающихся периода 1917–1922 годов, что не соответствует критерию п. 6 ст. 4 Федерального закона». Подпись. Печать. Реестр закрыт.

Глеб Кузнецов, политолог.