dxdt.blog: занимательный интернет-журнал

Кембриджский словарь (Cambridge Dictionary) английского языка назвал словом года 2023 слово hallucinate. Неплохой выбор. Однако обоснование не то, на которое можно понадеяться: речь всего лишь о дальнейшей поддержке “хайпа” вокруг ИИ (LLM – конкретно). Для толкового словаря это, наверное, даже правильно, поскольку дескриптивный подход тут лучше прескриптивного.

Hallucinate (“галлюцинировать”), в значении термина AI (LLM ИИ), словарём определяется так: “когда искусственный интеллект галлюцинирует – он (it) выдаёт ложную информацию (false information)”. Заметка по ссылке выше, объясняющая выбор слова, заслуживает прочтения (или прослушивания чтения – там есть прекрасная запись, полностью соответствующая Кембриджу по языку). Заметка отлично иллюстрирует восприятие популярного ИИ со стороны, так сказать, филологии – а это вам не СМИ широкого профиля. Например, там есть рассуждение о том, что рост популярности LLM может привести к возникновению новой специальности – “инженерии подсказок”, так сказать (в оригинале: prompt engineering). Такой специалист по подсказкам ИИ, сколь бы странным это ни показалось, будет “знать, как составлять вопросы и запросы к инструментам ИИ, чтобы получить в точности те ответы, какие вам нужны”. Напоминает некоторые классические литературные произведения. Причём, чем лучше вы вчитываетесь в это описание специальности, тем больше произведений оно напоминает. Зачем вообще ИИ, если характеристики ответа уже известны с высокой точностью?

К сожалению, использование термина “галлюцинировать” в отношении систем LLM, да ещё и в таком толковании, как теперь закрепляет словарь, это не очень-то правильно. LLM – это программы, выводящие цепочки слов. Если эти программы вообще “галлюцинируют”, то они галлюцинируют всегда – просто, в некоторых случаях, выдаваемые потоки слов похожи на “информацию”, которая совпадает с “подлинными фактами”. А так – никаких “галлюцинаций” там быть не может: программа работает одинаково, а восприятие определяется читающим выдачу человеком.

Заметьте, что с “галлюцинированием”, в исходном значении, и так не всё понятно: наличие разнообразных иллюзий, будь то цвет платья или разное понимание звуков, показывает, что “галлюцинации”, как минимум, могут оказывать заметное и непрерывное влияние на восприятие окружающей действительности человеком. Что, впрочем, вряд ли является достаточным основанием для утверждений типа “ИИ – это компьютерная система, которая обладает некоторыми качествами, свойственными человеческому мозгу”, как в словарной статье Hallucinate Кембриджского словаря.

Кстати, одним из весьма вероятных вариантов развития систем пропуска пользовательского трафика через (условный) Интернет является пропуск маршрутизаторами только пакетов, подписанных ключами доверенных приложений; либо это могут быть подписанные сессии – тут зависит от выбранного подхода. Интересно, что в описании европейского цифрового удостоверения личности (eID – European Digital Identity), которое недавно прошло очередной этап утверждения, можно уже увидеть что-то подобное, пусть и в общих чертах: приложение на устройствах, привязанное к оплате телекоммуникационных услуг – понятно, что задача идентификации интернет-пользователя там давно заявлена, но, развивая контекст по заданному направлению, нетрудно предположить, что соответствующие приложения появятся и у провайдеров на BRAS (это инженерное название для систем управления массовым клиентским доступом); даже есть занятная оговорка, что, мол, некоторое программное обеспечение, из реализующего работу eID, можно будет не публиковать в открытых исходниках (последний момент, конечно, не стоит переоценивать, но всё же).

Что лучше – заучить, что 7 * 9 == 63 или знать, что 7 * 9 == 9 * 7? Вопрос дискуссионный. Коммутативность – свойство из разряда “универсальных”, но и хорошее понимание про 63 приводит к не менее важному наблюдению: 63 = 7 * 3^2. С другой стороны, спросите у знающего человека, чему равно π * e – и ответ, с минимальной “занимательностью”, будет таким: π * e == e * π. Спросите то же самое у человека с калькулятором, и он ответит: 8.539734223(…) – возможно, даже без многоточия, поэтому оно в скобках.

Вроде бы, калькулятор на экзамене по математике не нужен, в принципе, а тем более, на школьном экзамене. Но из этого не следует, что требуется именно заучивать таблицу умножения. Понимать такую таблицу, уметь хотя бы немного считать в уме – да, наверное, нужно, потому что это сильно помогает в освоении прочих операций мышления (в чём, собственно, и состоит смысл знакомства с таблицей умножения). Компьютеры на современную теоретическую математику уже оказали большое влияние, но с развитыми навыками владения кнопками примитивного калькулятора это влияние, всё же, не связано, а с таблицей умножения – связано прямо.

Впрочем, привнесение калькулятора в школьные экзамены по математике не должно ни на что повлиять. До тех пор, пока программу обучения не переделают исключительно под “знакомство с калькулятором” – когда переделают, тогда уже без калькулятора будет сложновато. Вообще, многое вокруг этой темы напоминает популярные сейчас рассуждения, что если ChatGPT, погоняемое студентом, может легко написать (сгенерировать) сносное эссе, подходящее под задание преподавателя, то, мол, пора убрать написание эссе из процесса обучения. Да. В Новом Средневековье, конечно, и не такое можно будет увидеть.

(Так как Британскую библиотеку, которая с папирусами, пока не починили, используем манускрипты из библиотеки Ватиканской. Там как-то понадёжнее системы, видимо; кроме того, как известно, в ватиканском хранилище есть секретные, закрытые залы, содержащие такие древние документы, что знания из них, скорее всего, позволяют радикально защитить информационные системы.)

Воскресное чтение манускриптов. На этот раз – запись “Новой истории” Зосимы (Зосима?). Сам исходный труд опубликован в начале шестого века, манускрипт с записью, скриншоты которого приводятся ниже, датируется 10 веком, при этом в нём можно разглядеть знаки, сильно напоминающие символ “@”:

Однако это всего лишь такая лигатура σ+α (сигма и альфа). Например, на скриншоте – в слове “παρακελευσαμένου”. В общем, это не адрес email, о чём нетрудно догадаться, поскольку в этом фрагменте историк Зосима (или Зосим?), рассказывая о взятии Пальмиры Аврелианом, описывал историю Римской империи в те времена, когда Интернета не было ни у Зосимы, ни в Римской империи, что в тот, что в другой периоды: для современного состояния цивилизации этот момент (отсутствие Интернета) – всё ещё в будущем.

Интересно, что из записи этой “Новой истории” изымались некоторые фрагменты. На втором скриншоте (см. ниже) – как раз пометка о том, что изъяты восемь листов в самом конце первой (в современной нумерации) книги.

Внёс небольшие правки на экспериментальный (тестовый) сервер TLS 1.3:

добавил вывод пометки GREASE для GREASE-параметров (это специальные идентификаторы заведомо неподдерживаемых элементов в TLS, которые, например, присылают Chrome/Chromium);
сделал вывод шифротекста Kyber768 в ServerHello (пока что в виде единого блока байтов, без разбивки на части);
добавил распознавание ECH (Encrypted Client Hello) в расширениях (draft-версия); а вот реализовать поддержку ECH – пока что возможности нет.

Повсеместно пишут, что “кубиты” квантового компьютера “одновременно пребывают и в значении единица, и в значении ноль”. Собственно, и про квантовые состояния такое же пишут – “одновременно пребывает в разных состояниях” (но состояние-то одно). Понятно, что это исторически сложившийся штамп из области научпопа, не совсем понятно, что же имеется в виду. Что означает “пребывает” и “одновременно”? Какой именно секундомер используется для введения шкалы одновременности пребывания? Ведь не похоже, чтобы квантовое состояние требовало перечисления вариантов в строгой объектной привязке через “пребывания” (да и перечислить действительные числа не выйдет). То есть, если в результате измерения на компьютерных шкалах приборов обнаруживается конкретный набор величин для некоторых “классических” параметров, и вариантов предполагалось всего два, то из этого не следует, что строго эти два варианта как-то там “одновременно” объективизированы до момента измерения: зафиксированный “классический” результат не разворачивается в другую сторону, не образует некоторый “параллелизм”.

Нейросеть с ИИ YaGPT2 (сайт ya.ru) на вопрос “По какому коридору идёт Штирлиц?” отвечает, что Штирлиц идёт по “коридору власти” (и выдаёт какие-то пояснения про то, что Штирлиц – это персонаж художественных произведений). Это, конечно, не тест Тьюринга, но как тест на знание некоторых культурных реперов – вполне себе используется. Ответ YaGPT2 в 2023 году выглядит, так сказать, несколько странно, потому что не особенно-то отличается от “говорилок”, доступных и десять-пятнадцать лет назад (это когда “преобразуем входной вопрос в SQL-запрос”).

Десять лет назад на dxdt.ru вышла записка “Эволюция телефонного аппарата как персонального жучка” (а также некоторое обновление, в 2021 году). Вообще, к этой теме сейчас добавились всякие “умные” звуковые колонки и прочая техника, с постоянным доступом до внешних серверов и развитой вычислительной базой на борту – настолько развитой, что возможно исполнять “приложения”, автоматически присылаемые центральным сервером, с последующим их не менее автоматическим удалением. Все эти удачно установленные клиенту колонки и телевизоры начинают транслировать рекламу (пример есть от Amazon), но более интересно, что эти устройства значительно расширяют возможности по сбору информации.

Рассмотрим ситуацию на примере колонки – они очень популярны. Понятно, что “умная” колонка через встроенный микрофон (микрофоны) может постоянно прослушивать помещение и, например, узнавать людей по голосам. Так как есть центральный сервер, то много колонок в разных помещениях могут определять, где бывает тот или иной “носитель голоса”. Тут стационарность колонки составляет преимущество, по сравнению со смартфоном. Однако колонка ещё может взаимодействовать с приложением в смартфоне, который находится рядом: во-первых, штатными способами (это управление и прочие привычные функции – через центральный сервер, напрямую через локальный WiFi/Bluetooth); во-вторых – через дополнительный акустический канал, поскольку у колонки есть не только микрофон, но и динамики. Акустический канал может быть хорошо замаскирован для человеческого слуха – годится и ультразвук, и сокрытие наложенным сигналом. Особенность акустического канала в том, что колонка может взаимодействовать с приложением, которое официально никак с колонкой не связано. И, естественно, нужное приложение может автоматически “приехать” и в смартфон, и в колонку.

Сейчас встречаются в суперсовременных моделях легковых автомобилей схемы, когда двигатель внутреннего сгорания (ДВС) вращает электрогенератор, питающий электромоторы колёсного привода, при этом, конечно, есть и батарея, которая позволяет автомобилю быть “чистым” электромобилем.

Схема с ДВС, генератором и электромоторами – удобная, известная, применяется и применялась много где, но для легковых автомобилей её всё ещё можно считать нетиповым решением. Тем более, что маркетинговой мотивацией является увеличение пробега на одном заряде батарей. Так-то электромоторы, непосредственно приводящие колёса, являются идеальным вариантом для автомобиля с точки зрения кинематики движения (да, даже если это четыре мотор-колеса и при этом учитывается величина “неподресоренных” масс). Но вот на практике с дорожными электромобилями есть ряд проблем – негде заряжать, прежде всего, но не только. Как эти проблемы будут решать, в случае сохранения массового использования личных автомобилей, пока не ясно. Оговорка про “массовость использования” тут важна потому, что решить проблемы можно прямым способом, а именно – исключив массовое использование личных автомобилей, сделав такое недоступным.

Вернёмся к теме про сочетание ДВС с электроприводом – сейчас это как бы переходный вариант, но нельзя исключать, что развитие истории пойдёт по такому пути, что через какое-то время, после того как останутся только электромобили без ДВС, такая же схема опять станет переходной в новых моделях, но переход случится в другую сторону.

Кстати, электромобиль без ДВС не выглядит принципиально не подходящим для использования в ситуации постапокалипсиса: горючее для современного автомобильного ДВС ведь тоже не вот где найдётся, если соответствующая инфраструктура разрушена. А электромобиль можно попробовать заряжать от ветряка какого-нибудь. Впрочем, с другой стороны, сложно собрать и настроить электрическую часть такого ветряка. Да и современный электромобиль может оказаться заблокированным, так как “отсутствует связь с сервером обновлений”. Для постапокалипсиса лучше чисто механические тракторы с неприхотливой паровой машиной – для них хотя бы топливо проще раздобыть.

Я иногда в заметках ссылаюсь на какие-то материалы Британской библиотеки. Например, в недавней заметке про кусочки “Илиады”. Онлайн-каталоги и оцифрованные манускрипты с папирусами – это удобно. Вот только основной веб-сайт Британской библиотеки, как и некоторые прочие их ресурсы, ещё неделю назад упал и, – как нетрудно догадаться, – с тех пор недоступен. Что там теперь с цифровыми коллекциями – не понятно. И это ещё один пример наступающего Нового Средневековья. Скриптории-то нынче почти все расформировали.

Кстати, если вдруг придумают алгоритм быстрой факторизации больших полупростых чисел, сломав тем самым RSA, то, конечно, “популярной мотивации” для создания универсального квантового компьютера станет сильно меньше: на этом направлении всегда пишут про алгоритм Шора. А вот с необходимостью перехода на постквантовые криптосистемы, в этом случае, есть интересные особенности.

Так, обнаружение алгоритма быстрой факторизации, естественно, легко может грозить тем, что попутно обнаружится и способ быстро сломать задачи типа привычного эллиптического варианта Диффи-Хеллмана (читай – ECDSA). Однако только из этого не следует автоматически вывод, что переходить требуется именно на постквантовые криптосистемы. Вот тут и начинаются особенности. Во-первых, постквантовые криптосистемы уже разработаны, уже имеют какую-то практическую “классическую” стойкость, уже реализованы, – так что их быстрее внедрить; во-вторых, задачи, на которых базируются те или иные постквантовые криптосистемы, имеют гораздо больше шансов сохранить известную сложность после обнаружения каких-то принципиально новых методов быстрой факторизации – это, конечно, тоже не гарантируется, однако для ускорения факторизации/логарифмирования до сих пор использовались математические конструкции, которые, в общем-то, стоят и за многими постквантовыми алгоритмами.