Ресурсы: техническое описание TLS, LaTeX - в картинки (img), криптографическая библиотека Arduino, шифр "Кузнечик" на ассемблере AMD64/AVX и ARM64
LLM, ИИ и торопливость заявлений про гипотезу Римана
В продолжение развивающейся показательной истории про доказательство гипотезы Римана силами LLM Anthropic и миллионов строк программного кода: на сайте Lean-сообщества уже поторопились опубликовать сообщение с подтверждением того, что доказательство, дескать, “правильное и верное”. “We hereby certify that both the statement and the proof of the Riemann Hypothesis are correct” (“Настоящим подтверждаем (certify), что формулировка и доказательство гипотезы Римана правильные”.) Заметьте, что тут максимально строгая формулировка: “hereby certify”. Ну, действительно, чего тянуть-то? Всего-то пятнадцать миллионов строк, гигабайты ОЗУ и сутки времени – понятно же, что верное доказательство, это ж Claude. Похоже, что всё же “компьютеры не могут ошибаться”.
Вообще, если серьёзно, то тут можно вспомнить всю долгую историю “занимательных” уязвимостей, которые годами присутствовали в коде, и мало кто обращал внимание: например, недавние “длинные пароли”, безусловно принимавшиеся SSH-сервером в musl-ветке линуксов – если пароль длиннее 256 символов, то он принимался как верный уже по факту количества символов (но для тех аккаунтов, у которых парольная авторизация была “отключена”). Если вы думаете, что такого же нет в Lean, то вы ошибаетесь. И было, и есть. И даже, возможно, всякая формализация с достаточно длинными цепочками автоматом считается “верным доказательством”.
Машинные доказательства очень полезны в качестве вспомогательного инструмента. Примерно так же, как текстовый процессор (и, скажем, TeX) – очень и очень полезны при подготовке текстов статей. Проблема тут в том, что результаты и модели излишне обобщают. Например, считают, что если есть формальное машинное доказательство “корректности работы программы”, то программа “работает так, как задумано”. Очень распространённое заблужджение. Наличие машинной формализации и машинной проверки корректности кода означает лишь, что проверка корректности соответствует модели, используемой формализацией. То есть, доказано, что автоматический валидатор “сходится”, когда ему на вход подают код проверяемой программы и код модели проверки. Это не означает, что программа “работает так, как задумано”.
Строго, да на машинном языке, доказать, что произвольная сколь-нибудь сложная программа работает так, как задумано – вообще невозможно на конечном оборудовании (про бесконечное – отдельный вопрос, но он лишён практического смысла, как настоящая полнота по Тьюрингу, которая недостижима, но все её упоминают). Lean – это компьютерная программа. Доказательство через формализацию Lean – очень полезно, но его машинная корректность заведомо ограничена параметрами валидатора и используемой модели. И что же там certify (“сертифицируем”)? Наверное, соответствие некоторым версиям “ядра верификатора”.
Естественно, основная идея шума вокруг этого доказательства от Anthropic в том, чтобы сейчас куча народу занялась разбором этих миллионов строк, сгенерированных специальной моделью Claude: “оно тут что-то нагенерировало такое, что приводит Lean в нужное состояние, давайте разбираться” – выдача машины-генератора оказывается первичной, чего и добиваются.
Само доказательство, конечно, может быть верным. Там эта раскрученная гипотеза, например, имеет большую историю компьютерной проверки “нулей” – вычислялось много значений, которые прямо “сертифицировали”, что утверждение гипотезы для них выполняется. Тут даже не важна математическая составляющая: просто заметьте – очень большой, необозримый, массив чисто вычислительных результатов – все они, при компьютерной проверке, укладываются в утверждение гипотезы. Доказывает ли это гипотезу? Есть ли какое-то отличие в том, что представление массивов заменено на миллионы строк Lean-кода? Риторические вопросы.
Адрес записки: https://dxdt.blog/2026/11/22/19722/
Похожие записки:
- Кибернетический след в "Илиаде" и цветовой сдвиг
- Один сценарий интернет-измерений и поле SNI HTTPS/TLS
- Сетевая геолокация передатчиков
- "Скандализация" OpenAI
- Пять лет спустя: криптография и квантовые компьютеры
- Уравнение Бомбелли и мнимая единица
- Реплика: возможный доступ приложений "Яндекса" к OBD автомобиля
- F-47 в Штатах
- Автомобили-роботы из "обязательной" сети такси
- Сервис audit.statdom.ru и постквантовые криптосистемы в TLS
- Реплика: явления слуха и представления о физических процессах
Новый
Написать комментарий