Проактивный ИИ как управляющая экология

Современные ИИ-системы и большая часть научных workflows по-прежнему смотрят на
мышление как на цепочку отдельных, почти без памяти связанных взаимодействий.
Каждый новый запрос начинается почти с нуля.

Это плохо совпадает с тем, как интеллект проявляет себя в реальной работе.
Человеческое мышление непрерывно, оно собирает сигналы на разных масштабах
времени и хранит память, которая важна дольше одного диалога.

Пассивная осведомлённость

Большинство ИИ-инструментов реактивны: вы спрашиваете, они отвечают. Но работа
не происходит в формате отдельных пар «вопрос-ответ». Мы постоянно переключаем
контекст, разгоняемся часами и держим в голове сроки.

Микросигналы

Нажатия клавиш, движение курсора, только что сохранённый файл или ссылка,
которую вы скопировали.

Контекст сессии

Документ, который вы редактируете уже двадцать минут, и переписка, к которой вы
возвращаетесь снова и снова.

Нарративная дуга

Многодневные паттерны: еженедельная сводка, повторяющийся рабочий ритуал или
ветка, которую вы почти всегда мержите по пятницам.

Главная сложность не в том, чтобы сделать модель умной. Главная сложность в
том, чтобы спроектировать систему так, чтобы интеллект проявлялся вовремя и в
форме, которой пользователь доверяет.

Проблема координации

Одной осведомлённости мало. Система должна ещё и решать, что делать с тем, что
она заметила.

• Локальные микроскиллы быстро реагируют на низкорисковые сигналы.
• Более крупный оркестратор учитывает широкий контекст и ограничения политики.
• Обратная связь определяет, когда системе стоит действовать, а когда лучше
  молчать.

Дальше

Самое сложное в том, что такая архитектура плохо масштабируется сама по себе.
Каждый новый канал наблюдения добавляет ещё один контур, который нужно
стабилизировать.