Присяга алгоритма

Это чистый Гашек. Швейк в Пентагоне.

Дело было так. Армия поймала злодея из далёких южных земель. При поимке использовался искусственный интеллект компании «Антропик». Как именно использовался, неизвестно. По оценкам инсайдеров — никак особенно: таблички на экранах мониторинга. Но это неважно. Важно, что победа, технологии, Америка из бэк.

Начальство ждёт аплодисментов.

А представитель «Антропик» на рутинной встрече с «Палантиром» спрашивает: «А вы нашу штуку то по правилам использовали?». Не «как вы смеете!». Не «протестуем». Просто вопрос. С интонацией человека, который проверяет, не оставил ли он утюг включённым.

Представитель безотказного «Палантира» бежит докладывать: «Они НЕ РАДЫ!» Осмелюсь доложить, господин обер-лейтенант, арестованный подозрительно молчал, когда мы проходили мимо портрета Его Величества. Обер-лейтенант (мрачно): «Запишите в протокол».

И начинается.

Министр войны произносит историческую фразу: «Мы не будем использовать ИИ-модели, которые не позволяют вести войны». Ему объясняют: модель прекрасно позволяет вести войны, контракт обязывает не следить за собственными гражданами и не давать роботам стрелять без финального «добро» от человека.

Его зам по технологиям (бывший вице-президент «Убера» — компании, чья корпоративная культура состоит из слова «ДАВИТЬ») ставит вопрос: «А если на нас летит ракета, вы разрешите ИИ её сбить?» Ему отвечают: «Да, конечно. Это всегда было в контракте. Мы написали это прямым текстом».

Но министр и зам слышат только интонацию, в которой нет достаточного обожания. Зам выходит в X и пишет, что босс «Антропика» «лжец с комплексом бога, который хочет лично контролировать армию США». Присоединяется и Трамп с традиционным потоком личных оскорблений.

Дарио Амодеи из «Антропик» — человек, который первым в истории запустил свой ИИ в засекреченные военные сети, отключил китайских клиентов по просьбе разведки и помогал отражать кибератаки КНР. Орден? Нет, гашековская классика: «Если в батальоне завелись подобные элементы, их следует искоренить, наказать и заключить в тюрьму».

Сэм Альтман из OpenAI-мастер правильных выражений лица. В тот же вечер Альтман объявил: «Мы тоже подписываем контракт с Пентагоном! С теми же красными линиями!» То есть: с теми же ограничениями, за которые «Антропик» только что объявили угрозой национальной безопасности. «Антропик» враг народа за то, что не разрешает слежку. OpenAI патриот с контрактом за то, что не разрешает слежку.

При этом сотни инженеров из Google, OpenAI, Microsoft и Amazon подписали письмо солидарности с «Антропик». Общее мнение авторитетов отрасли, выраженное Суцкевером «Хорошо, что „Антропик“ не отступила».

Слушания в Сенате: «Ни один американец, демократ или республиканец, не хочет массовой слежки за американским народом»

Для Альтмана все выглядит умно примерно до момента, когда начальство повернётся к нему могучим задом. А оно повернётся: гуппи плавает по кругу. И тогда у Альтмана не окажется ни репутационного капитала Амодеи, ни поддержки инженеров, ни симпатии Конгресса — того, что Амодеи приобрел, тихо попросив уважать контракт.

Для тех, кто думает, что «Антропик» проиграла. Потерянный контракт — 1,4% их годовой выручки. Ярлык «угроза цепочке поставок» работает, пока начальство помнит, за что злится. Зато «компания, которая сказала „нет“ и не отступила» — это навсегда.

Один в один тарифный сюжет. Те, кто унижались, получили и тарифы, и унижение. Те, кто не унижались — только тарифы. А потом пришёл Верховный суд и тарифы отменил. После чего Трамп предложил тем, кто готов унизиться ещё раз, сделать это и всё равно получить тарифы.

Глеб Кузнецов, политолог.