LLM, ИИ и торопливость заявлений про гипотезу Римана

В продолжение развивающейся показательной истории про доказательство гипотезы Римана силами LLM Anthropic и миллионов строк программного кода: на сайте Lean-сообщества уже поторопились опубликовать сообщение с подтверждением того, что доказательство, дескать, “правильное и верное”. “We hereby certify that both the statement and the proof of the Riemann Hypothesis are correct” (“Настоящим подтверждаем (certify), что формулировка и доказательство гипотезы Римана правильные”.) Заметьте, что тут максимально строгая формулировка: “hereby certify”. Ну, действительно, чего тянуть-то? Всего-то пятнадцать миллионов строк, гигабайты ОЗУ и сутки времени – понятно же, что верное доказательство, это ж Claude. Похоже, что всё же “компьютеры не могут ошибаться”.

Вообще, если серьёзно, то тут можно вспомнить всю долгую историю “занимательных” уязвимостей, которые годами присутствовали в коде, и мало кто обращал внимание: например, недавние “длинные пароли”, безусловно принимавшиеся SSH-сервером в musl-ветке линуксов – если пароль длиннее 256 символов, то он принимался как верный уже по факту количества символов (но для тех аккаунтов, у которых парольная авторизация была “отключена”). Если вы думаете, что такого же нет в Lean, то вы ошибаетесь. И было, и есть. И даже, возможно, всякая формализация с достаточно длинными цепочками автоматом считается “верным доказательством”.

Машинные доказательства очень полезны в качестве вспомогательного инструмента. Примерно так же, как текстовый процессор (и, скажем, TeX) – очень и очень полезны при подготовке текстов статей. Проблема тут в том, что результаты и модели излишне обобщают. Например, считают, что если есть формальное машинное доказательство “корректности работы программы”, то программа “работает так, как задумано”. Очень распространённое заблужджение. Наличие машинной формализации и машинной проверки корректности кода означает лишь, что проверка корректности соответствует модели, используемой формализацией. То есть, доказано, что автоматический валидатор “сходится”, когда ему на вход подают код проверяемой программы и код модели проверки. Это не означает, что программа “работает так, как задумано”.

Строго, да на машинном языке, доказать, что произвольная сколь-нибудь сложная программа работает так, как задумано – вообще невозможно на конечном оборудовании (про бесконечное – отдельный вопрос, но он лишён практического смысла, как настоящая полнота по Тьюрингу, которая недостижима, но все её упоминают). Lean – это компьютерная программа. Доказательство через формализацию Lean – очень полезно, но его машинная корректность заведомо ограничена параметрами валидатора и используемой модели. И что же там certify (“сертифицируем”)? Наверное, соответствие некоторым версиям “ядра верификатора”.

Естественно, основная идея шума вокруг этого доказательства от Anthropic в том, чтобы сейчас куча народу занялась разбором этих миллионов строк, сгенерированных специальной моделью Claude: “оно тут что-то нагенерировало такое, что приводит Lean в нужное состояние, давайте разбираться” – выдача машины-генератора оказывается первичной, чего и добиваются.

Само доказательство, конечно, может быть верным. Там эта раскрученная гипотеза, например, имеет большую историю компьютерной проверки “нулей” – вычислялось много значений, которые прямо “сертифицировали”, что утверждение гипотезы для них выполняется. Тут даже не важна математическая составляющая: просто заметьте – очень большой, необозримый, массив чисто вычислительных результатов – все они, при компьютерной проверке, укладываются в утверждение гипотезы. Доказывает ли это гипотезу? Есть ли какое-то отличие в том, что представление массивов заменено на миллионы строк Lean-кода? Риторические вопросы.

Адрес записки: https://dxdt.blog/2026/11/22/19722/

Похожие записки:



Далее - мнения и дискуссии

(Сообщения ниже добавляются читателями сайта, через форму, расположенную в конце страницы.)

Написать комментарий

Ваш комментарий:

Введите ключевое слово "W31UG" латиницей СПРАВА НАЛЕВО (<--) без кавычек: (это необходимо для защиты от спама).

Если видите "капчу", то решите её. Это необходимо для отправки комментария ("капча" не применяется для зарегистрированных пользователей). Обычно, комментарии поступают на премодерацию, которая нередко занимает продолжительное время.