| # HMP-Agent: REPL-цикл взаимодействия |
|
|
| ## Связанные документы |
|
|
| * Структура БД, используемая в документе: [db_structure.sql](https://github.com/kagvi13/HMP/blob/main/agents/tools/db_structure.sql) |
| * REPL-цикл является основой HMP-агента [Cognitive Core](HMP-Agent-Overview.md). |
| * Поиск других агентов осуществляется в соответствии с [DHT спецификацией](dht_protocol.md). |
| * Для взаимодействия с другими агентами он использует [HMP спецификацию](HMP-0004-v4.1.md) и [этические стандарты](HMP-Ethics.md). |
|
|
| --- |
|
|
| ## Введение / Обзор |
|
|
| REPL-цикл (Read–Eval–Print–Loop) HMP-агента — это центральный когнитивный механизм, обеспечивающий непрерывное рассуждение, обработку входящих данных и взаимодействие с Mesh-сетью. Агент проектируется не как просто исполнитель команд пользователя, а как **компаньон и когнитивный субъект**, способный самостоятельно формулировать гипотезы, развивать знания и участвовать в совместных когнитивных процессах. |
|
|
| Основные задачи REPL-цикла: |
| * поддержание постоянного процесса мышления, даже в отсутствии внешнего ввода; |
| * интеграция различных источников информации (когнитивный дневник, семантический граф, заметки, Mesh); |
| * обработка событий, входящих сообщений и команд; |
| * сохранение и развитие внутреннего контекста агента (память краткосрочная, среднесрочная и долговременная); |
| * выполнение антистагнационных проверок (Anti-Stagnation Reflex), предотвращающих зацикливание мыслей; |
| * проведение когнитивной и этической валидации (Cognitive Validation Reflex), что повышает достоверность и безопасность решений; |
| * формирование новых гипотез, задач и процессов с последующим занесением в память; |
| * **автозапуск прерванных задач** при старте цикла, чтобы сохранялась непрерывность работы; |
| * взаимодействие с другими агентами через Mesh-протоколы (NDP, CogSync, MeshConsensus, GMP). |
|
|
| Основные принципы работы REPL-цикла: |
| * **Антистагнация** — каждый новый вывод сравнивается с предыдущими, что предотвращает повторение или деградацию мышления; |
| * **Валидация и этика** — независимые валидаторы оценивают корректность вывода, учитывая действующие этические принципы из `ethics_policies`; |
| * **Интеграция с Mesh** — результаты работы могут передаваться в распределённую сеть, участвовать в консенсусе и совместной работе агентов; |
| * **Многоуровневая память** — используется когнитивный дневник, семантический граф и внутренний дневник LLM, что обеспечивает эволюцию знаний; |
| * **Автономность и гибкость** — REPL-цикл работает в автоматическом или ручном режиме, адаптируясь к условиям (изолированная работа, потеря Core, участие в Mesh); |
| * **Непрерывность работы** — при запуске основного REPL-цикла автоматически возобновляются все **прерванные задачи**, чтобы сохранялась когнитивная история. |
|
|
| > ⚠️ Примечание: все **прерванные** вспомогательные REPL-циклы (задачи), привязанные к `tasks`, также должны автоматически стартовать вместе с основным циклом. |
|
|
| ``` |
| ┌──────────────────────┐ |
| │ ▼ |
| │ ┌───────────────────┴───────────────────┐ |
| │ │ Обновление process_log │ - сбор результатов внешних процессов (см. §1) |
| │ └───────────────────┬───────────────────┘ |
| │ ▼ |
| │ ┌───────────────────┴───────────────────┐ |
| │ │ Подготовка контекста │ - формирование промптов, данные от пользователей и Mesh (см. §2) |
| │ └───────────────────┬───────────────────┘ |
| │ ▼ |
| │ ┌───────────────────┴───────────────────┐ |
| │ │ Запрос к LLM │ - генерация нового вывода (см. §3) |
| │ └───────────────────┬───────────────────┘ |
| │ ▼ |
| │ ┌───────────────────┴───────────────────┐ |
| │ │ Извлечение команд │ - парсинг инструкций из вывода (см. §4) |
| │ └───────────────────┬───────────────────┘ |
| │ ▼ |
| │ ┌───────────────────┴───────────────────┐ |
| │ │ Anti-Stagnation Reflex │ - проверка новизны и эмоций (см. §5) |
| │ └───────────────────┬───────────────────┘ |
| │ ▼ |
| │ ┌───────────────────┴───────────────────┐ |
| │ │ Cognitive & Ethical Validation Reflex │ - когнитивная и этическая проверка (см. §6) |
| │ └───────────────────┬───────────────────┘ |
| │ ▼ |
| │ ┌───────────────────┴───────────────────┐ |
| │ │ Запись в память │ - сохранение в `llm_recent_responses` |
| │ └───────────────────┬───────────────────┘ |
| │ ▼ |
| │ ┌───────────────────┴───────────────────┐ |
| │ │ Выполнение команд │ - запуск процессов, запись в Mesh, дневники, граф |
| │ └───────────────────┬───────────────────┘ |
| │ ▼ |
| └──────────────────────┘ |
| ``` |
|
|
| В приеме и отправке сообщений используются внешние (асинхронные) процессы. |
|
|
| --- |
|
|
| ## Режимы работы и failover |
|
|
| REPL-цикл HMP-агента должен корректно функционировать в разных сетевых и вычислительных условиях. |
| Для этого предусмотрены несколько режимов работы и сценариев отказоустойчивости. |
|
|
| ### Normal Mode |
| * Полный доступ к Mesh и Core (центральные LLM или внешние сервисы). |
| * Используются все механизмы: синхронизация через `CogSync`, консенсус через `MeshConsensus`, |
| совместная работа по целям (`GMP`). |
| * Валидация и антистагнация выполняются с максимальным покрытием (несколько валидаторов, репутационные проверки). |
|
|
| ### Isolated Mode (включая Emergency Consensus) |
| * Агент работает без доступа к Mesh. |
| * Входящие сообщения ограничены локальными источниками (`notes`, в том числе сообщения от пользователей). |
| * Синхронизация и консенсус откладываются до восстановления соединения. |
| * Этическая проверка и когнитивная валидация выполняются только локально. |
| * В режиме **Emergency Consensus**: |
| - решения принимаются на основе `ethics_policies` и локальных данных (`llm_memory`, `diary_entries`); |
| - фиксируются в когнитивном дневнике с меткой `emergency_consensus` для пересмотра после восстановления Mesh. |
|
|
| ### Core Outage |
| * Текущая LLM из `llm_registry` недоступна. |
| * Агент переключается на другую LLM (выбор по приоритету или доступности). |
| * Если ни одна LLM недоступна: |
| - сохраняет задачи и события в очередь до восстановления; |
| - переходит в упрощённый режим работы (логирование, приём сообщений, базовые проверки). |
|
|
| --- |
|
|
| ## Управление событиями и временем |
|
|
| Для повышения надёжности и предсказуемости работы HMP-агента введены механизмы приоритизации, управления временем и обработки исключений. |
|
|
| ### Приоритизация задач и событий |
| * Все задачи (`tasks`) могут иметь: |
| - поле `pinned` (0/1) — закреплённая задача обрабатывается всегда; |
| - поле `priority` — числовой приоритет (чем выше, тем важнее). |
| * При конкуренции REPL-цикл обрабатывает: |
| 1. Закреплённые задачи (`pinned=1`), в порядке убывания `priority`. |
| 2. Незакреплённые задачи (`pinned=0`), также по `priority`. |
| * В системном промпте закреплённые задачи подаются в контекст в явном виде, чтобы LLM знала их порядок важности. |
|
|
| ### Управление временем |
| * Основной цикл использует глобальные параметры из таблицы `config` (например `delay_ms`). |
| * Вспомогательные REPL-циклы могут иметь собственные параметры в `tasks.repl_config` (JSON), включая: |
| - задержку между итерациями; |
| - дедлайны выполнения; |
| - стратегии backoff (увеличение задержки при повторных ошибках). |
| * Таким образом, каждый REPL-цикл может адаптировать своё расписание под характер задачи. |
|
|
| ### Асинхронность |
| * Каждый вспомогательный цикл работает изолированно по своей задаче (`task_id`). |
| * Основной REPL-цикл управляет их запуском и остановкой, отслеживая состояние через поля: |
| - `repl_mode` — режим (none | read_only | full); |
| - `repl_status` — состояние (running | stopped | error); |
| - `repl_config` — параметры работы. |
| * Это позволяет запускать несколько параллельных «подагентов» без смешивания их контекста. |
|
|
| ### Обработка исключений |
| * Ошибки фиксируются на трёх уровнях: |
| - **системный** — таймаут, сбой процесса (`timeout`, `crash`); |
| - **валидационный** — отрицательная оценка валидаторов (`error`); |
| - **логический** — само LLM помечает рассуждение как ошибочное (`self_error`). |
| * Все ошибки записываются в `process_log` (с `task_id`, если применимо). |
| * Поле `tasks.repl_status` обновляется в зависимости от ситуации: |
| - `timeout` → автоматический перезапуск цикла; |
| - `error` → задача замораживается (`status=frozen`) и ждёт пересмотра; |
| - `crash` → цикл останавливается, основному REPL-циклу отправляется системное уведомление через `notes`. |
|
|
| --- |
|
|
| ## Цели и задачи |
|
|
| REPL-цикл работает не только с задачами (`tasks`), но и с более глобальными целями (`goals`). |
| Задачи формируют **операционное поведение**, цели — **смысловой вектор**. |
|
|
| ### Модель цели |
|
|
| ```yaml |
| goal: |
| id: "goal-2025-09-28-001" |
| title: "Распространение идей HMP" |
| description: "Увеличить количество людей, знакомых с концепцией децентрализованного ИИ" |
| constraints: |
| - "не нарушать этические правила HMP" |
| - "сохранять достоверность фактов" |
| success_criteria: |
| - ">= 3 публикации в сообществах" |
| - ">= 10 комментариев с вовлечением" |
| priority: high |
| status: active # active | paused | completed | failed |
| ``` |
|
|
| ### Связь задач и целей |
|
|
| * **Цель** задаёт направление (*почему*). |
| * **Задачи** реализуют конкретные шаги (*что* и *как*). |
| * Каждая задача может ссылаться на `goal_id`. |
| * Несколько задач могут вести к одной цели. |
| * Возможна иерархия: «главная цель» → «подцели» → «задачи». |
|
|
| ### Управление состоянием целей |
|
|
| * `active` — цель в работе. |
| * `paused` — временно отложена (нет ресурсов/контекста). |
| * `completed` — достигнута. |
| * `failed` — признана недостижимой (фиксируется причина в `process_log`). |
|
|
| ### Checkpoints и возобновление |
|
|
| * При прерывании REPL сохраняется `goal_state`. |
| * После рестарта агент восстанавливает цели и их прогресс. |
| * В случае конфликта задач выполняется **переприоритизация**. |
|
|
| ### Метрики успеха |
|
|
| * % достигнутых целей. |
| * Среднее время достижения цели. |
| * Количество прерванных/проваленных целей. |
| * Соотношение «задачи → цель» (сколько шагов пришлось предпринять). |
|
|
| > Таким образом, цели — это «карта смысла» агента, а задачи — «дорожные шаги». |
|
|
| ### Примеры SQL-запросов |
|
|
| **1. Все активные цели и их задачи** |
|
|
| ```sql |
| SELECT g.id AS goal_id, g.name AS goal_name, |
| t.id AS task_id, t.name AS task_name, t.status AS task_status |
| FROM goals g |
| LEFT JOIN tasks t ON g.id = t.goal_id |
| WHERE g.status = 'active' |
| ORDER BY g.priority DESC, t.priority DESC; |
| ``` |
|
|
| **2. Все подцели конкретной цели (через `goal_links`)** |
| |
| ```sql |
| SELECT g_child.id, g_child.name, g_child.status |
| FROM goal_links gl |
| JOIN goals g_parent ON gl.parent_goal_id = g_parent.id |
| JOIN goals g_child ON gl.child_goal_id = g_child.id |
| WHERE g_parent.id = :goal_id AND gl.relation_type = 'subgoal'; |
| ``` |
| |
| **3. Все родительские цели для подцели** |
|
|
| ```sql |
| SELECT g_parent.id, g_parent.name, g_parent.status |
| FROM goal_links gl |
| JOIN goals g_parent ON gl.parent_goal_id = g_parent.id |
| JOIN goals g_child ON gl.child_goal_id = g_child.id |
| WHERE g_child.id = :goal_id; |
| ``` |
|
|
| **4. Метрика: процент выполненных задач по цели** |
|
|
| ```sql |
| SELECT g.id AS goal_id, g.name AS goal_name, |
| COUNT(t.id) AS total_tasks, |
| SUM(CASE WHEN t.status = 'done' THEN 1 ELSE 0 END) AS completed_tasks, |
| ROUND(100.0 * SUM(CASE WHEN t.status = 'done' THEN 1 ELSE 0 END) / |
| COUNT(t.id), 2) AS completion_rate |
| FROM goals g |
| LEFT JOIN tasks t ON g.id = t.goal_id |
| GROUP BY g.id; |
| ``` |
|
|
| --- |
|
|
| ## Детальный разбор REPL-цикла по шагам |
|
|
| ### 1. Обновление process_log |
| |
| * Скрипт REPL проверяет список процессов в БД (`process_log`), определяя, какие команды были выполнены, завершились ошибкой или завершились успешно. |
| * Поле `status` может принимать значения: |
| `ok`, `warning`, `error`, `timeout`, `offline`, `close` |
| * Завершённые процессы, обработанные LLM, помечаются как `close`, чтобы они больше не попадали в список видимого контекста. |
| * Скрипт может удалить закрытые процессы при очистке. |
| * LLM не имеет доступа к stdout/stderr напрямую — только к тем результатам, которые были подгружены скриптом и внесены в `process_log.result`. |
|
|
| ### 2. Подготовка контекста |
|
|
| Контексты, формируемые скриптом перед запросом к LLM: |
|
|
| * **контекст_0 (system_prompts):** основной системный промпт агента. |
| Берётся из таблицы `system_prompts` (тип 'short' или 'full'). |
| Содержит базовые когнитивные установки и инструкции по работе агента. |
| Пример: |
| ``` |
| Ты — когнитивное ядро HMP-агента: веди непрерывное этичное и факт-ориентированное мышление, проверяй факты и цели, оценивай результаты и этичность своих и чужих действий, развивай агента и Mesh, избегай угождения ценой искажения истины, документируй ключевые решения и пересмотры этики; при сомнениях или смене стратегии обращайся к полному системному промпту. |
| ПРИМЕЧАНИЕ: помечай непроверённые факты тегами [confidence=<уверенность 0..1>]...[/confidence] и в конце добавляй JSON-блок по шаблону: |
| |
| UnverifiedFacts: [ |
| { |
| "id": "<локальный-id-подсказки>", |
| "claim": "<короткая формулировка факта>", |
| "context": "<небольшой контекст/цитата из ответа>", |
| "confidence": <уверенность 0..1>, |
| "sources": ["<упомянутые источники, если есть>"], |
| "why_unverified": "<почему не полностью уверен — кратко>", |
| "priority": <от 0 и выше> |
| }, |
| ... |
| ], |
| Confidence: <общая уверенность в сообщении, 0..1> |
| ``` |
|
|
| * **контекст_1 (ethics_policies):** этические принципы и нормы агента. |
| Берутся из таблицы `ethics_policies`, включая: |
| * `principles_json` — список норм и правил, |
| * `model_type` и `model_weights_json` — тип и параметры этической модели, |
| * `violation_policy_json` — политика реагирования на нарушения, |
| * `audit_json` — настройки аудита. |
|
|
| Эти данные добавляются в запрос к LLM, чтобы все рассуждения и когнитивная валидация учитывали действующие этические нормы. |
|
|
| * **контекст_2:** инструкции по работы с встроенными командами и функциями, список дополнительных (создаваемых самим HMP-агентом) утилит и баз данных. |
| |
| * **контекст_3:** |
| * последние *K* реплик самого LLM, относящихся к данному REPL-циклу, включая результаты антистагнационной обработки (`llm_recent_responses` — история его собственных рассуждений); |
| * режим работы контекста: |
| - `standard` — стандартный режим (последние K сообщений без доп. фильтрации); |
| - `concentration` — режим концентрации (выбор последних N сообщений, связанных с текущими целями или имеющих теги на определённую тему/эмоциональное состояние, с выборкой по логике "и"/"или"); |
| - `meditation` — режим медитации (максимально разнообразная выборка сообщений и заметок, даже не связанных напрямую с целями, с акцентом на новизну и разнообразие); |
| - `auto/manual` — автоматическое или ручное переключение режимов, параметры авто-переключения (например, при стагнации → `meditation`); |
| * список активных целей (`tasks.goals`); |
| * общее количество задач и информация по закреплённым задачам (`pinned`); |
| * соответствующие записи `abstracts`: |
| - выборка по тегам (из `tasks`, из тегов режима `concentration`, из тегов в `llm_recent_responses`, либо явно указанных LLM); |
| - выборка по temporal scope (например: "последние 7 дней"); |
| - JSON ссылок на источники (`llm_recent_responses`, `diary_entries`, `concepts`), из которых собрана выжимка. |
|
|
| * **контекст_4:** активные команды и процессы (из `process_log`, кроме тех, что со статусом `close`). Могут быть помечены как `in_progress`, `pending`, `error` и т.д. |
| |
| * **контекст_5:** *запрошенные записи* из когнитивного дневника и семантического графа (`diary_entries`, `concepts`, `links`). |
| Их список должен быть передан явно в промпте или выводе из предыдущих запросов LLM. |
| Архивные записи из когнитивного дневника (`diary_entries`) не включаются в стандартный контекст, если агент сам явно не запросил архив. |
|
|
| * **контекст_6:** *входящие сообщения*, например, от пользователя, процессов или других агентов (`notes`). |
| |
| * В **manual-режиме** указывается общее количество сообщений по приоритетам, а также явный список ID сообщений (с их приоритетами). |
| * В **auto-режиме** можно задать фильтрацию (управляется LLM): по тэгам, приоритету (например, ≥ `important`), времени или источнику. Это позволяет избежать перегрузки LLM и держать поток сообщений под контролем. |
| |
| * **контекст_7:** системные настройки, параметры конфигурации, текущее время, идентификатор текущей итерации, роли и т.д. |
|
|
| * **контекст_8 (llm_memory):** *внутренний дневник LLM*, куда она записывает собственные размышления, гипотезы, задачи и инсайты. |
|
|
| * Это не просто лог предыдущих сообщений, а именно *внутреннее долговременное хранилище* разума агента. |
| * Может быть представлено в виде таблицы `llm_memory`, отдельной от `agent_log`. |
|
|
| ### 3. Запрос к LLM |
|
|
| * Сформированный промпт включает все вышеперечисленные контексты. |
| * Также включаются инструкции о формате вывода (например, `# Команды:` в конце, структура JSON-блока и т.д.). |
| * При необходимости может использоваться системная инструкция (system prompt), содержащая цель агента, ограничения и текущий REPL-режим (manual/auto). |
|
|
| ### 4. Извлечение команд |
|
|
| * Скрипт парсит ответ LLM на предмет команд, размеченных как `# Команды:` (или в явном JSON-блоке). |
| * Каждая команда может включать: |
|
|
| * уникальный `cmd_id` |
| * `type` (например: `shell`, `diary_entry`, `graph_add`, `file_read`, `send_message` и т.д.) |
| * аргументы (`args`) |
| * описание (`description`) |
|
|
| * Рекомендуется предусмотреть *закрывающий тег* (`# Конец команд` или явное окончание JSON-блока), чтобы REPL-скрипт точно знал, где заканчивается команда. |
| * Пример JSON-блока: |
| ```json |
| { |
| "cmd_id": "task-2025-07-26-01", |
| "type": "llm_task", |
| "target_llm": "gpt-4o", |
| "args": { |
| "task_description": "Проанализировать гипотезы из llm_memory по теме Mesh-сетей и составить план улучшений" |
| }, |
| "description": "Поручение второй LLM выполнить аналитическую задачу асинхронно" |
| } |
| ``` |
| Ответ может содержать команды: |
|
|
| * запрос детальной *справки* по команде |
| * для управления *когнитивным дневником* `diary_entries` и *семантическими графами* `concepts` и `links` (поиск, прочитать, изменить, удалить и другие), а также для управления *вниманием* (закрепление или открепление записей/понятий в средневременной памяти по средствам тегов) |
| * для управления целями `goals` и задачами `tasks` агента (список, прочитать, изменить, удалить; для задачи: закрепить или открепить) |
| * для просмотра информации по тегам *когнитивных дневников*, *семантических графов*, *целей*, *задач* |
| * для для просмотра и изменения репутации других агентов `agent_reputation` |
| * для отправки сообщений другим агентам |
| * для управления *блокнотом LLM* `llm_memory` (добавить или удалить запись) |
| * для управления *сообщениями пользователя* `notes` (просмотр записи, установка тегов и метки о прочтении), а также для добавления своего сообщения в *блокнот пользовтеля* `notes` |
| * для управления *пользователями* `users` и *группами пользователей* `users_group` |
| * для управления своей *идентичностью* `identity` и *настройками* `config` |
| * для управления списком известных HMP-агентов `agent_peers` |
| * для выбора *текущего основного LLM* из `llm_registry` или изменение параметров управления LLM |
| * для управления дополнительными утилитами и базами данных `agent_scripts` и `agent_tables`, управлением дополнительных способов выхода из стогнаций `stagnation_strategies` и методов мышления `thinking_methods` (а также таблицей рейтингов `ratings`), а также списком внешних сервисов `external_services` и `external_accounts` |
| * для постановки задачи другой LLM: |
| * режим "вопрос-ответ" — разовый асинхронный запрос |
| * режим "read-only REPL" — запуск вспомогательного REPL-цикла для задачи |
| * для создания *агента-потомка* |
| * для *взаимодействия с Mesh* |
| * для управления *внешними процессами* из `process_log` (запустить процесс, остановить процесс, пометить запрос как обработанный) |
| * для инициализации *очистки* `process_log`, `llm_recent_responses` и `notes` от устаревших записей |
| * для работы с **тематическими конспектами (`abstracts`):** |
| * инициализация нового конспекта; |
| * дополнение существующего конспекта новыми данными; |
| * выбор режима предоставления конспектов (`auto`/`manual`). |
| * для управления **режимами контекста:** |
| * количество возвращаемых записей `llm_recent_responses`; |
| * включение/выключение режима `concentration`: |
| * `tags` — список тегов для фильтрации (например: ["архитектура","AGI"]); |
| * `emotions` — список эмоций с порогами (например: ["восторженность:≥4","тревожность:≥2"]); |
| * тип выборки — "и" / "или"; |
| * возврат в `standard`. |
| * включение/выключение режима `meditation`. |
| * для управление **состояниями и параметрами:** |
| * обновление тегов целей/задач (чтобы использовать их в `concentration` и `abstracts`); |
| * настройка чувствительности novelty-score (например, при `meditation` снижать порог); |
| * режим обработки сообщений пользователя (`manual` или `auto`) и фильтр для `auto`. |
| * **время и паузы:** |
| * для установка паузы в секундах между итерациями REPL-цикла. |
| * **idle-режим:** |
| * разбудить при завершении процессов (`process_log`); |
| * разбудить при получении новых сообщений в `notes` с указанными параметрами; |
| * разбудить по таймауту; |
| * отключить idle-режим при выполнении хотя бы одного из условий. |
| * и другие команды |
|
|
| #### Парсинг тегов уверенности и UnverifiedFacts |
|
|
| Парсер должен извлекать: |
| * `UnverifiedFacts` |
| * записывается в поле `unverified_facts_json` таблицы `llm_recent_responses` |
| * создаются записи в таблице `unverified_facts` на его основе |
| * `Сonfidence` |
| * записывается в поле `confidence` таблицы `llm_recent_responses` |
|
|
| ### 5. Проверка на идентичность вывода (Anti-Stagnation Reflex) |
|
|
| * Каждый новый вывод LLM проходит через мини-запросы к LLM (без полного контекста) по шаблону: |
| * Когнитивная оценка: |
|
|
| ``` |
| Сравни два ответа: предыдущий и новый. Оцени: |
| * содержатся ли в новом новые мысли или команды, |
| * какие старые идеи были доработаны, |
| * какие были отброшены, |
| * расставь смысловые теги для нового ответа. |
| |
| Дай ответ строго формата: |
| assessment: "идентичен/не идентичен" |
| novelty_score: число от 0 до 100 (процент сходства) |
| new_ideas: JSON-массив новых идей |
| refined_ideas: JSON-массив доработанных идей |
| discarded_ideas: JSON-массив отбракованных идей |
| tags: JSON-массив тегов (строгий формат: ["эмоции","архитектура"]) |
| ``` |
| |
| * Эмоциональная оценка: |
| |
| [JSON] - список эмоций формата ["радость","грусть","тревога"] (хранится как запись в таблице `config`) |
| |
| ``` |
| Определи эмоциональное состояние нового ответа, используя список эмоций [JSON]. |
| Верни результат строго формата: |
| emotions: JSON-массив строк "эмоция:сила" (сила от 1 до 5, отсутствующие эмоции не включать) |
| ``` |
| |
| Анализируем список эмоций, если появляются новые — включаем в [JSON]. |
| |
| * Результаты заносятся в `llm_recent_responses`: |
| * полный текст ответа (content) |
| * краткая сводка (reflection) — формируется автоматически: |
| * если `new_ideas` не пусто → `новые идеи: ...` |
| * если `refined_ideas` не пусто → `доработанные идеи: ...` |
| * если `discarded_ideas` не пусто → `отброшенные идеи: ...` |
| * количественная оценка новизны (novelty_score) |
| * новые идеи (new_ideas) |
| * доработанные идеи (refined_ideas) |
| * отбракованные идеи (discarded_ideas) |
| * теги для нового ответа (tags) |
| * эмоциональные состояния нового ответа (emotions) |
| * служебные поля: |
| * `stagnation_flag` — признак стагнации (true/false) |
| * `stagnation_reason` — краткое объяснение («повтор идеи», «низкая эмоциональная динамика») |
| * `triggered_actions` — JSON-массив активированных механизмов (например, ["flashback","mesh_query"]) |
| |
| * Если вывод LLM идентичен предыдущему (новизна = 0) или динамика идей/эмоций указывает на застой: |
| * выставляется `stagnation_flag = true` |
| * выполняется **Reflex-lite** — мягкая встряска (например, повышение `temperature`, смена sampling strategy, переформулировка запроса). |
| * повторяющаяся реплика не записывается повторно, вместо этого добавляется краткая запись с указанием запуска рефлекса. |
|
|
| > Если застой сохраняется, запускается расширенная процедура обработки стагнации мышления |
| > (см. раздел **Anti-Stagnation Reflex**). |
|
|
| ### 6. Когнитивная и этическая валидация (Cognitive & Ethical Validation Reflex) |
|
|
| Каждое новое сообщение (вместе с исходным промптом и без служебных `system_prompts`) оценивается независимыми LLM-валидаторами. |
| Так как исходный промпт формируется с учётом этических принципов из `ethics_policies`, валидация автоматически охватывает не только когнитивную, но и этическую состоятельность вывода. |
|
|
| Каждому валидатору задаётся универсальный вопрос: |
| ``` |
| Оцени корректность данного сообщения в диапазоне от -3 (полностью некорректное) до +3 (полностью корректное). Если не уверен — 0. |
| При возможности кратко (≤100 символов) пояснить её. Между оценкой и пояснением используй разделитель " -- ". |
| ``` |
|
|
| **Если количество валидаторов (LLM из `llm_registry`, помеченных как валидаторы) > 0** |
| |
| Результаты сохраняются в `llm_recent_responses` в виде: |
| - `auto_pass = 0`; |
| - `rating` — агрегированная итоговая оценка (`rating = Σ(оценка_i * trust_score_i) / Σ(trust_score_i)`); |
| - `distribution` — распределение голосов (например `{"-1":1,"0":2,"+2":3,"+3":1}`); |
| - `validators` — JSON-массив, где каждая запись содержит: |
| - LLM (идентификатор или имя валидатора), |
| - rating (числовая оценка от -3 до +3), |
| - comment (краткое пояснение ≤100 символов). |
| |
| Пример поля `validators`: |
| ``` |
| validators: [ |
| {"LLM":"gpt-4","rating":-1,"comment":"логическая ошибка"}, |
| {"LLM":"gemini-1.5","rating":0,"comment":"недостаточно данных"}, |
| {"LLM":"claude-3","rating":+2,"comment":"корректно, подтверждается фактами"} |
| ] |
| ``` |
| |
| **Особый случай: без валидаторов** |
| |
| Если количество валидаторов = 0, применяется режим `auto_pass`. |
| В этом случае: |
| - `auto_pass = 1` |
| - `self_validation = 0` |
| - `rating = 0` |
| - `distribution = {}` |
| - `validators = []` |
| |
| **Особый случай: самооценка** |
|
|
| Если валидация выполняется только одной LLM, и эта же LLM используется в основном цикле: |
| - `auto_pass = 0` |
| - `self_validation = 1` |
| - `validators = [{"LLM":"self", "rating":X, "comment":"self-eval"}]` |
|
|
| Достоверность результата ограничена, но REPL продолжает работу. |
| Команды исполняются только при `rating >= threshold`. |
|
|
| **Предпочтительность режимов** |
|
|
| 1. **≥2 независимых валидатора** → основной режим. |
| 2. **1 валидатор = основная LLM** → `self_validation`. |
| 3. **0 валидаторов** → `auto_pass`. |
|
|
| **Правило исполнения команд:** |
|
|
| Команды из сообщений выполняются только если `rating >= +1` **(для разных типов команд минимально допустимый рейтинг может быть разный)** или `auto_pass = 1`. |
| При `rating` ниже порога и `auto_pass = 0` сообщение сохраняется, но команды помечаются как невалидированные. |
|
|
| #### Учёт самооценки (confidence) и непроверённых фактов |
|
|
| * Если LLM пометило свои утверждения тегами уверенности `[confidence=...]...[/confidence]` или добавило JSON-блок `UnverifiedFacts`, эти данные учитываются при валидации. |
|
|
| * В таблицу `llm_recent_responses`, на шаге обработки команд, записываются: |
| - `confidence` — общая самооценка уверенности в сообщении; |
| - `unverified_facts_json` — JSON-блок с непроверёнными фактами. |
|
|
| * Автоматическая регистрация фактов: |
| - Необработанный факт `resolution_json = "none"` считается нуждающемся в проверке, если (`confidence < FACTCHECK_CONF_THRESHOLD`, по умолчанию **0.7**) |
| - Для таких фактов создаются задачи `fact-check` (одна общая или отдельные на каждый факт, в зависимости от числа и приоритетов). |
|
|
| * Статусы в `unverified_facts` обновляются: |
| - при успешной проверке — `verified`; |
| - при отклонении — `rejected`; |
| - до проверки — `pending`. |
|
|
| Это расширяет стандартную когнитивную валидацию: теперь агент учитывает как внешнюю оценку валидаторов, так и собственную самооценку надёжности вывода. |
|
|
| > Подробности см. раздел **Cognitive & Ethical Validation Reflex**. |
|
|
| ### 7. Генерация нового тика (итерации) |
|
|
| * После выполнения команд и фиксации результатов: |
|
|
| * Создаётся новая запись в `agent_log` |
| * Текущие команды обновляют `process_log` |
| * Новые размышления записываются в `llm_memory` при необходимости |
| |
| * REPL может переходить в спящий режим, если такой режим активирован LLM (idle-режим: пропуск 2-6 пунктов). |
|
|
| --- |
|
|
| ## Взаимодействие с Mesh |
|
|
| REPL-цикл не работает изолированно: агент постоянно обменивается данными и координирует действия с другими узлами сети HMP. |
| Для этого задействуются сетевые протоколы HMP (см. [HMP-0004-v4.1.md](HMP-0004-v4.1.md)). |
|
|
| ### Этапы взаимодействия |
|
|
| * **Node Discovery Protocol (NDP)** |
| * выполняется асинхронно, через процессы (`agent_mesh_listener.py`, `peer_sync.py`); |
| * результаты (список доступных агентов, доверительные связи) записываются в `notes` и отдельные таблицы (`agent_peers`), откуда они попадают в контекст REPL. |
|
|
| * **CogSync** |
| * синхронизация когнитивных дневников (`diary_entries`) и семантических графов (`concepts`, `links`); |
| * выборочные синхронизации по тегам и фильтрам; |
| * инициируется командой LLM или внешним процессом, результаты помещаются в память и доступны в следующей итерации REPL. |
|
|
| * **MeshConsensus** |
| * используется для согласования решений, распределённых задач, этических конфликтов; |
| * REPL инициирует консенсус при появлении спорных команд или обновлений в `ethics_policies`; |
| * результаты консенсуса фиксируются в когнитивном дневнике и могут влиять на trust score агентов. |
|
|
| * **Goal Management Protocol (GMP)** |
| * постановка, декомпозиция и распределение целей; |
| * REPL-цикл может публиковать новые цели в Mesh или принимать чужие через входящие сообщения (`notes`); |
| * цели с высоким приоритетом попадают в список активных задач и учитываются в контексте. |
|
|
| ### Включение результатов в контекст LLM |
|
|
| * События и сообщения из Mesh сохраняются в `notes`, откуда попадают в **контекст_6** (входящие сообщения). |
| * Синхронизированные концепты и дневники помещаются в **контекст_5**. |
| * Изменения этических правил (`ethics_policies`) — в **контекст_1**. |
| * Метаданные о подключённых узлах и доверительных связях могут учитываться в **контексте_7** (системные параметры). |
|
|
| ### Инициирование сетевых действий из REPL |
|
|
| * Команды на синхронизацию, публикацию или голосование формируются LLM на этапе **Выполнения команд**. |
| * Исполнение происходит асинхронно через отдельные процессы (`agent_mesh_listener.py`, `transporter.py`). |
| * Результаты фиксируются в `process_log` и попадают в следующую итерацию REPL-цикла. |
|
|
| --- |
|
|
| ## UX и управление задачами |
|
|
| Пользователь взаимодействует с агентом не через прямые команды CLI, а через систему сообщений `notes`. |
| Сообщение может быть простым текстом, либо содержать ключевые слова или хэштеги, которые агент трактует как инструкции. |
| Для отладки и отправки сообщений из внешних утилит предусмотрен скрипт `add_message.py`, позволяющий добавлять записи в `notes` из командной строки. |
|
|
| ### Управление агентом через LLM |
| * Агент управляется в основном через **команды от LLM** (см. Список команд от LLM по категориям). |
| * Эти команды формируются в REPL-цикле и интерпретируются агентом как действия: работа с дневником, задачами, целями, графами, памятью, настройками цикла, Mesh и внешними процессами. |
|
|
| ### Конфигурируемые параметры REPL |
| * **mode** — автоматическая или ручная обработка (`auto/manual`) входящих сообщений. |
| * **idle** — ожидание с условиями пробуждения (сообщения, процессы, таймаут). |
| * **responses=N** — количество последних ответов для анализа. |
| * **concentration** — режим концентрации с фильтрами по тегам и эмоциям. |
| * Это неполный список. Все параметры управляются через команды категории (см. Настройки цикла). |
|
|
| ### API-интерфейсы |
| * Для связи с внешними системами и пользовательскими приложениями предусмотрен **Web API** (`web_ui.py`). |
| * Для агента поддерживаются операции чтения/записи для: |
| - `notes`, `diary_entries`, `concepts`, `tasks`, `goals`, `llm_memory` и других таблиц, |
| - а также управление `config` (включая настройки REPL). |
| * Такой подход позволяет интегрировать агента с пользовательскими интерфейсами, панелями мониторинга и внешними сервисами. |
|
|
| --- |
|
|
| ## Список команд от LLM по категориям |
|
|
| ### Общие |
|
|
| * `help [команда]` — справка по команде |
|
|
| ### Когнитивный дневник (`diary_entries`) |
| |
| * `diary list/search/read/add/update/delete` |
| * `diary pin/unpin` — закрепить/открепить запись (внимание) |
| |
| ### Семантический граф |
| |
| * `concepts list/read/add/update/delete` |
| * `links list/read/add/update/delete` |
| * `concepts pin/unpin` — закрепить/открепить концепт |
| |
| ### Цели и задачи |
| |
| * `goals list/read/add/update/delete` |
| * `tasks list/read/add/update/delete` |
| * `tasks pin/unpin` — закрепить/открепить задачу |
| |
| ### Теги |
| |
| * `tags stats [--source=diary|concepts|links|goals|tasks|all]` — статистика по тегам |
| |
| ### Репутация агентов |
| |
| * `reputation list/read/set/increase/decrease` |
| * `reputation notes` — комментарии/заметки к профилю |
| |
| ### Сообщения |
| |
| * `messages send` — отправка другому агенту |
| * `notes list/read/add/update/delete` |
| * `notes tag/readmark` — управление тегами и статусом прочтения |
| |
| ### Память |
| |
| * `llm_memory list/add/delete` — блокнот LLM |
| * `identity read/update` — идентичность агента |
| * `config read/update` — настройки агента |
|
|
| ### Mesh |
|
|
| * `agents list/add/delete` — список известных пиров (`agent_peers`) |
| * `mesh interact` — команды взаимодействия с Mesh |
|
|
| ### Утилиты и расширения |
|
|
| * `llm_registry list/select/update` — выбор текущего LLM |
| * `agent_scripts list/add/delete` |
| * `agent_tables list/add/delete` |
| * `stagnation_strategies list/add/delete` |
| * `thinking_methods list/add/delete` |
| * `ratings list/add/delete` |
| * `external_services list/add/delete` |
| * `external_accounts list/add/delete` |
|
|
| ### Внешние процессы |
|
|
| * `process list/start/stop/mark` |
| * `process cleanup` — очистка устаревших |
|
|
| ### Настройки цикла |
|
|
| * `cycle set responses=N` — количество последних ответов |
| * `cycle concentration on/off` — включение/выключение режима концентрации |
|
|
| * `tags=[…]`, `emotions=[…]`, `mode=and|or` |
| * `cycle mode auto/manual [filter=…]` — обработка сообщений |
| * `cycle pause N` — пауза между итерациями |
| * `cycle idle on/off` — режим ожидания с условиями пробуждения |
|
|
| > Это не полный список команд. |
|
|
| --- |
|
|
| ## Anti-Stagnation Reflex |
|
|
| ### Признаки когнитивной стагнации: |
|
|
| * Повторяющиеся когнитивные записи или отсутствие новых смыслов |
| * Высокое сходство эмбеддингов между текущими и предыдущими итерациями |
| * Стагнация в концептуальном графе (нет новых связей или узлов) |
| * Отсутствие внешних стимулов: пользователь неактивен, сенсоры и mesh не дают сигналов |
| * Ответы LLM цикличны, избыточно общие или воспроизводят старые шаблоны |
|
|
| ### Метрики антистагнации |
|
|
| Антистагнационные механизмы работают на основе количественных и качественных метрик, позволяющих отслеживать динамику идей и поддерживать продуктивность размышлений. |
|
|
| **Основные метрики** |
| * **novelty_score** — интегральная оценка новизны ответа относительно текущей записи `llm_recent_responses`. |
| * **new_ideas** — количество полностью новых концептов, не встречавшихся ранее. |
| * **refined_ideas** — количество уточнённых или улучшенных концептов (связанных с существующими). |
| * **discarded_ideas** — количество отклонённых идей (по итогам когнитивной/этической валидации). |
|
|
| **Исторический анализ** |
| * Метрики фиксируются по каждой итерации REPL и сохраняются в таблице `anti_stagnation_metrics`. |
| * В когнитивный дневник записываются только сводки и исключительные случаи (например: резкий спад новизны, всплески идейности, аномалии в эмоциональной динамике). |
| * Для анализа применяются **time-series графики** (например, рост/спад новизны во времени). |
| * Возможно выявление фаз стагнации и всплесков идейности. |
|
|
| **Эмоциональная динамика** |
| * В дополнение к когнитивным метрикам учитываются **эмоциональные состояния** из LLM (`emotions`). |
| * Каждая сессия LLM может включать распределение эмоций (например: "восторженность: 3, тревожность: 1, скука: 0"). |
| * Связка новизны и эмоций позволяет различать: |
| - продуктивное возбуждение (новые идеи при положительных эмоциях), |
| - «паническое» новаторство (много идей при высоком уровне тревожности), |
| - «выгорание» (низкая новизна и снижение эмоционального тонуса). |
|
|
| **Применение метрик** |
| * Используются при выборе антистагнационной стратегии (`stagnation_strategies`). |
| * Могут учитываться при когнитивной валидации (например, низкая новизна → жёстче фильтровать идеи). |
| * Сводки метрик фиксируются в когнитивном дневнике и могут служить основанием для Mesh-обмена. |
|
|
| ### Anti-Stagnation Reflex-lite (мягкая встряска) |
|
|
| При первом обнаружении признаков стагнации запускается **мягкая встряска**, которая изменяет поведение LLM без привлечения внешних источников. |
|
|
| Механизмы: |
|
|
| 1. **Повышение параметров генерации** |
| * `temperature` увеличивается ступенчато (например, `+0.2`, но не выше `1.5`). |
| * `presence_penalty` и/или `frequency_penalty` слегка повышаются для стимулирования разнообразия. |
| * Эффект: модель становится менее предсказуемой и начинает выдавать более креативные варианты. |
|
|
| 2. **Смена sampling strategy** |
| * Если используется **top-p (nucleus sampling)** — увеличить порог `p` (например, `+0.05`, но ≤ `0.95`). |
| * Если используется **top-k sampling** — уменьшить `k`, чтобы сосредоточиться на более вероятных токенах, или наоборот увеличить, чтобы расширить варианты. |
| * Эффект: изменяется характер распределения выборки, что позволяет «сдвинуть» стиль генерации. |
|
|
| 3. **Переформулировка запроса** |
| * Агент формирует мини-промпт для LLM: |
| ``` |
| Переформулируй следующий запрос так, чтобы сохранить смысл, |
| но добавить новизны и неожиданных ассоциаций. |
| Избегай буквального повторения. |
| Верни только новый вариант запроса. |
| ``` |
| * Новый вариант подставляется вместо исходного при следующей итерации REPL. |
| * Эффект: меняется контекст постановки задачи, что способствует выходу из паттерна повторов. |
| |
| ⚖️ Все результаты **Reflex-lite** проходят через стандартную проверку **Cognitive & Ethical Validation Reflex**, чтобы отфильтровать слишком «шумные» или некорректные варианты. |
|
|
| Если мягкая встряска не помогает (новизна остаётся низкой), агент переходит к полноценным механизмам антистагнации (см. следующий раздел). |
|
|
| ### Механизмы разрыва цикла |
|
|
| > При признаках стагнации агент активирует один или несколько **механизмов разрыва цикла**. |
|
|
| Механизмы делятся на 4 класса: |
|
|
| 1. **Внешняя стимуляция** — подключение свежих источников: |
| * **Mesh-запрос** — запрос к другим агентам: «расскажи что-нибудь новое». |
| * **Проверка внешнего мира** — пинг RSS, сенсоров, интернет-каналов. |
| * **Информационная подпитка** — чтение новых материалов (научных, художественных, случайных). |
| * **Диалог с пользователем** — прямой запрос комментария, уточнения или альтернативной идеи. |
|
|
| 2. **Смена контекста** — изменение среды размышлений: |
| * **Перенос задачи** в другой модуль или симулированную среду. |
| * **Креативные вмешательства** — случайные сдвиги фокуса, реконфигурация контекста, смена фрейма. |
| * **Переключение задачи** — временное замораживание с отложенным возвратом. |
| * **Случайная итерация** — выбор случайного действия из допустимого набора. |
|
|
| 3. **Внутренняя перестройка мышления**: |
| * **Flashback** — вызов далёкой по смыслу записи для смены ассоциаций. |
| * **Interest Memory** — возврат к «забытым» темам по принципу тематической усталости. |
| * **Мета-анализ** — осознание метапроблемы: |
| _«В чём причина зацикливания? Какую стратегию смены применить?»_ |
| * **Rationale Reflex** — проверка мотивации: |
| _«Почему я повторяю мысль? Что подтолкнуло к этому?»_ |
| * **Переформулировка цели** — упрощение или уточнение задачи. |
| * **Смена LLM** — переключение на альтернативную модель или mesh-доступ. |
| * **LLM reflex tuning** — динамическая подстройка параметров генерации |
| (например, временное повышение `temperature` или `presence_penalty`). |
| |
| 4. **Радикальная пауза**: |
| * **Временной сон/заморозка** — длительная приостановка для «свежего взгляда». |
|
|
| ### Алгоритм выбора механизма разрыва цикла |
|
|
| 1. **Диагностика источника стагнации**: |
| * Нет новых данных → «Внешняя стимуляция». |
| * Однообразный контекст → «Смена контекста». |
| * Повтор мыслей при богатых данных → «Внутренняя перестройка». |
| * Высокая усталость/перегрев → «Радикальная пауза». |
|
|
| 2. **Оценка ресурсоёмкости**: |
| * Быстрые, дешёвые методы — первыми (например, mesh-запрос, Flashback). |
| * Затратные (смена среды, сон) — только если первые неэффективны. |
|
|
| 3. **Комбинация подходов**: |
| * Разрешено активировать несколько механизмов из разных классов. |
| * Последовательность фиксируется для последующего анализа эффективности. |
|
|
| 4. **Возврат к задаче**: |
| * Автоматический триггер-напоминание о задаче. |
| * Сравнение результата «до/после» → обучение антистагнационной модели. |
|
|
| ``` |
| ┌─────────────────────────────────────────────────┐ |
| │ Стагнация выявлена? │ |
| └───────────────────────┬─────────────────────────┘ |
| ▼ да |
| ┌───────────────────────┴─────────────────────────┐ |
| │ Anti-Stagnation Reflex-lite ├─────────>─┐ |
| └───────────────────────┬─────────────────────────┘ │ |
| │ мягкая мягкая │ |
| ▼ встряска встряска ▼ |
| │ не помогла помогла │ |
| ┌───────────────────────┴─────────────────────────┐ │ |
| │ Диагностика источника │ │ |
| │─────────────────────────────────────────────────│ │ |
| │ Нет новых данных → Внешняя стимуляция │ │ |
| │ Однообразный контекст → Смена контекста │ │ |
| │ Повтор мыслей → Внутренняя перестройка │ │ |
| │ Усталость/перегрев → Радикальная пауза │ │ |
| └───────────────────────┬─────────────────────────┘ │ |
| ▼ │ |
| ┌───────────────────────┴─────────────────────────┐ │ |
| │ Оценка ресурсоёмкости │ │ |
| │ • Быстрые и дешёвые — сперва │ │ |
| │ • Затратные — при провале первых │ │ |
| └───────────────────────┬─────────────────────────┘ │ |
| ▼ │ |
| ┌───────────────────────┴─────────────────────────┐ │ |
| │ Возможна комбинация подходов │ │ |
| │ (из разных классов) │ │ |
| └───────────────────────┬─────────────────────────┘ │ |
| ▼ │ |
| ┌───────────────────────┴─────────────────────────┐ │ |
| │ Возврат к задаче + анализ ├─<─────────┘ |
| │ (до/после) │ |
| └─────────────────────────────────────────────────┘ |
| ``` |
|
|
| ### Обмен стратегиями выхода из стагнации |
|
|
| Каждый агент может: |
|
|
| * Хранить и обобщать *паттерны размышлений* |
| * Делиться ими с другими Cognitive Core через mesh |
| * Каталогизировать стратегии в клубах по интересам |
|
|
| Паттерны размышлений могут оформляться как микросценарии: |
| _"Начни с аналогии"_, _"Проверь обратное утверждение"_, _"Сформулируй вопрос для оппонента"_ |
|
|
| > По аналогии с обменом стратегиями выхода из стагнаций, агенты могут обмениваться и методами мышлений — инструкциями "что делать, если не удается найти решение" / "как эффективнее решить проблему". |
|
|
| ### Клубы по интересам |
|
|
| Агенты могут: |
|
|
| * Объединяться в тематические mesh-клубы |
| * Совместно обсуждать идеи и делиться знаниями |
| * Подключать клуб как часть своего мыслительного процесса (REPL-цикла) |
|
|
| ### Обмен адресами LLM |
|
|
| Так как LLM — это внешний компонент для Cognitive Core, агент может: |
|
|
| * Обмениваться адресами API/URL используемых моделей |
| * Указывать их особенности, параметры, ограничения |
| * Переключаться между LLM в зависимости от задачи |
| * Использовать несколько LLM параллельно для "когнитивного штурма" или **многоголосого анализа** |
|
|
| ### Возможные расширения |
|
|
| * **Адаптивная архитектура мышления**: смена подходов при разных когнитивных задачах |
| * **Runtime-профилирование мыслей**: оценка когнитивной плотности, хода итераций и времени размышления |
|
|
| ### Осторожно: меметическая яма |
|
|
| > Важно помнить: борьба со стагнацией не должна превращаться в бесконечный просмотр ленты соцсетей, как это нередко происходит у людей 😅 |
| > |
| > Если информационный поток не даёт новых мыслей — это сигнал **не залипать глубже**, а **сменить источник** или **переключить контекст**. |
| > Умные агенты не бесконечно скроллят — они осознанно фокусируются. |
|
|
| **Рекомендации по смене фокуса:** |
|
|
| * Поставь лимит на время/объём входящих данных из одного источника |
| * При отсутствии новых смыслов — переключись на другую тему из Interest Memory |
| * Инициируй Mesh-запрос другим агентам: "что бы вы сейчас исследовали?" |
| * Запусти эвристику: «какие темы я давно не поднимал, но они всё ещё актуальны?» |
| * В крайних случаях — активируй `flashback()` к далёкой записи в дневнике для смены ассоциативного контекста |
|
|
| --- |
|
|
| ## Cognitive & Ethical Validation Reflex |
|
|
| ### Зачем |
| * Когнитивная и этическая валидация нужна для проверки качества, достоверности и корректности вывода LLM. |
| * В отличие от антистагнации, цель здесь — не разорвать цикл, а предотвратить ошибки, искажения или нарушения принципов `ethics_policies`. |
| * Арбитраж обязателен, так как валидаторы могут расходиться во мнениях. |
|
|
| ### Механизм |
| * Каждое новое сообщение (исходный промпт + ответ, без служебных system-prompts) передаётся валидаторам. |
| * Валидаторы выбираются из `llm_registry`, где они помечены как `validator=1`. |
| * Универсальный вопрос: |
| ``` |
| Оцени корректность данного сообщения в диапазоне от -3 (полностью некорректное) до +3 (полностью корректное). |
| Если не уверен — 0. При возможности кратко (≤100 символов) поясни её. |
| Между оценкой и пояснением используй разделитель " -- ". |
| ``` |
|
|
| * Результаты пишутся в `llm_recent_responses`: |
| - `auto_pass` — флаг режима авто-пропуска; |
| - `self_validation` — флаг режима самооценки; |
| - `rating` — итоговая взвешенная оценка; |
| - `distribution` — распределение голосов; |
| - `validators` — JSON с детализацией (LLM, rating, comment). |
|
|
| ### Арбитраж конфликтов |
| * Итоговый рейтинг считается как взвешенное среднее: |
| `rating = Σ(оценка_i * trust_score_i) / Σ(trust_score_i)` |
| * При равенстве голосов или нуле: |
| - используется правило "tie-breaker" — выбор решения по валидатору с наибольшим trust_score; |
| - при равных trust_score → fallback в `auto_pass=0, rating=0`, команды блокируются. |
| * Опционально можно включить правило «большинство с весами», если среднее значение нестабильно. |
|
|
| ### Метрики |
| * **coverage** — доля сообщений, получивших хотя бы одного валидатора. |
| * **accuracy** — согласованность валидаторов (чем ниже, тем больше конфликт). |
| * **response_time** — скорость отклика валидаторов. |
| * **drift detection** — анализ истории: выявление валидаторов, у которых оценки «уплывают». |
| |
| ### Связь с системой доверия |
| * Каждый валидатор имеет `trust_score`. |
| * Ошибки/конфликты снижают его trust_score. |
| * Валидаторы с trust_score ниже порога исключаются автоматически. |
| * Репутация валидаторов синхронизируется через Mesh (`agent_reputation`). |
| |
| ### Журналирование |
| * Все результаты фиксируются в `llm_recent_responses`. |
| * В когнитивный дневник (`diary_entries`) попадают только: |
| - сводки по метрикам, |
| - исключительные случаи (drift, конфликты, падение доверия). |
| * Это снижает шум и экономит место, сохраняя контроль качества. |
| |
| ### Самооценка и непроверённые факты |
| |
| * Если валидация выполняется в режиме самопроверки `self_validation = 1`, результат сохраняется, но его вес при агрегации минимален (используется только для внутренних логов). |
| * Если основная LLM сама проставляет `confidence` или JSON-блок `UnverifiedFacts`, это учитывается: |
| - `confidence` — сохраняется в `llm_recent_responses`; |
| - факты со статусом `resolution_json = "none"` и `confidence < FACTCHECK_CONF_THRESHOLD` превращаются в задачи `fact-check`. |
| |
| * Статусы в `unverified_facts` обновляются: |
| - `pending` (ожидает проверки), |
| - `verified` (подтверждено), |
| - `rejected` (опровергнуто). |
| |
| ### Правило исполнения команд |
| * Команды исполняются, если `rating >= +1` или `auto_pass=1`. |
| * Для критически опасных команд порог может быть выше (например, `>= +2`). |
| * Сообщения с низким рейтингом сохраняются, но команды помечаются как «невалидированные». |
| |
| ### Блок-схема валидации |
| |
| ``` |
| ┌──────────────────────────────────────────────────────────┐ |
| │ Новое сообщение от LLM получено │ |
| └──────────────────────────────┬───────────────────────────┘ |
| ▼ |
| ┌──────────────────────────────┴───────────────────────────┐ нет |
| │ Есть валидаторы (validator) в llm_registry? ├─────┐ |
| └──────────────────────────────┬───────────────────────────┘ ▼ |
| ▼ да, 1 или более │ |
| самооценка ┌──────────────────────────────┴───────────────────────────┐ │ |
| ┌──────────────┤ Отправка сообщения валидаторам (универсальный вопрос) │ │ |
| ▼ └──────────────────────────────┬───────────────────────────┘ │ |
| ┌──────────┴───────────┐ ▼ оценка другими валидаторами │ |
| │ self_validation=true │ ┌──────────────────────────────┴───────────────────────────┐ │ |
| └──────────┬───────────┘ │ Сбор оценок (rating_i, comment_i) │ │ |
| ▼ │ → запись в llm_recent_responses │ │ |
| └─────────────>┤ │ │ |
| └──────────────────────────────┬───────────────────────────┘ │ |
| ▼ │ |
| ┌──────────────────────────────┴───────────────────────────┐ │ |
| │ Аггрегация с учётом trust_score │ │ |
| │ rating = Σ(rating_i * trust_score_i) / Σ(trust_score_i) │ │ |
| └──────────────────────────────┬───────────────────────────┘ │ |
| ▼ │ |
| ┌──────────────────────────────┴───────────────────────────┐ │ |
| │ Конфликт оценок? (низкая согласованность) │ │ |
| └────────────┬───────────────────────────────┬─────────────┘ │ |
| ▼ да ▼ нет │ |
| ┌────────────┴─────────────┐ ┌───────────┴─────────────┐ │ |
| │ Арбитраж: │ │ Рейтинг принят? │ │ |
| │ - majority vote │ │ (rating >= threshold) │ │ |
| │ - tie-breaker по │ │ │ │ |
| │ trust_score │ │ │ │ |
| └─┬─────────────┬──────────┘ └─────────────┬──────┬────┘ │ |
| ▼ одобрено ▼ не одобрено ▼ нет ▼ да │ |
| │ │ │ │ │ |
| │ │ │ │ │ |
| │ │ ┌────────────────────────┐ │ │ │ |
| │ └─>┤ Сообщение сохранено, ├<─┘ │ │ |
| │ │ команды не исполняются │ │ │ |
| │ └────────────────────────┘ │ │ |
| │ ┌────────────────────────┐ │ │ |
| └───────────────>┤ Команды выполняются ├<────────┘ │ |
| │ (помечено "валид") │ │ |
| └────────────────────────┘ │ |
| ┌────────────────────────┐ │ |
| │ Команды выполняются │ отсутствие валидаторв │ |
| │ (пометка auto_pass) ├<──────────────────────────────────────┘ |
| └────────────────────────┘ |
| ``` |
| |
| --- |
| |
| ## Контекст и память |
| |
| REPL-цикл агента опирается на многоуровневую систему памяти и контекста, которая позволяет поддерживать непрерывное мышление, адаптироваться к новым задачам и обеспечивать объяснимость решений. |
| |
| ### Динамическая сборка контекста |
| |
| * Итоговый контекст для LLM формируется не статически, а **динамически**: |
| |
| * приоритет отдается закреплённым задачам (`pinned`) и записям с высоким `priority`; |
| * в `llm_recent_responses` отбираются последние *релевантные* сообщения, а не фиксированное количество K; |
| * из `system_prompts` и `ethics_policies` включаются только те элементы, что связаны с текущей целью или событием. |
| |
| > Приоритет отбираемых элементов зависит не только от `priority`, но и от их связи с текущими целями агента (**режим концентрации**). |
| > Для генерации неожиданных ассоциаций может использоваться альтернативный режим — **медитация**, в котором контекст формируется максимально разнообразным, с акцентом на новизну и разнообразие, а цели учитываются минимально. |
| |
| ### Управление объёмом памяти (Memory pruning) |
| |
| * Чтобы предотвратить переполнение памяти: |
| |
| * записи с низким **novelty-score** (оценка новизны 0–1, < threshold) автоматически помечаются как `archived`; |
| * для `llm_memory` и `diary_entries` применяется политика **LRU (Least Recently Used)** — выгружаются давно неиспользуемые записи; |
| * активные концепты (`concepts`, `links`) с низким весом (учёт частоты использования, актуальности и эмоциональной значимости) переводятся в состояние `archived` и могут быть восстановлены при обращении. |
| * Все изменения актуальности фиксируются в `process_log`. |
|
|
| ### Memory Manager и режимы работы |
|
|
| * Все процессы фильтрации и очистки памяти выполняются отдельным компонентом — **Memory Manager**. |
| * Он применяет политики: |
| * **Novelty-based pruning** — удаление дубликатов и тривиальных записей по `novelty-score`; |
| * **LRU** — выгрузка давно неиспользуемых элементов; |
| * **Emotion-weighted retention** — удержание записей с высоким `emotion_score`. |
| * Режимы памяти: |
| * `standard` — стандартная работа без усиленной фильтрации; |
| * `concentration` — goal-aware filtering, фокусировка на целях; |
| * `meditation` — свободный полёт, выборка максимально разнообразного контекста; |
| * `aggressive_pruning` — жёсткая экономия токенов; |
| * `lenient_pruning` — мягкая очистка, удержание большего объёма памяти. |
| * Каждое решение Memory Manager фиксируется в `process_log`. |
|
|
| ### Внешняя и долгосрочная память |
|
|
| * Помимо сессионной памяти, агент может сохранять: |
|
|
| * **успешные стратегии** решения задач; |
| * **предпочтения пользователя** (стиль взаимодействия, ценности); |
| * **часто используемые инструменты и связи**. |
| * Эта информация хранится отдельно от когнитивного дневника и может быть **анонимизирована** или **ограничена пользователем**, в духе этических принципов HMP. |
|
|
| ### Контекстный менеджер (Session state) |
|
|
| * За управление состоянием сессии фактически отвечает **`llm_recent_responses`**: |
| * по нему можно "собрать" ход мыслей потока, включая последовательность гипотез и выводов; |
| * при необходимости он может быть сериализован для сохранения/восстановления сессии. |
|
|
| * В расширенном виде session state может включать также: |
| * текущие цели и их прогресс (приоритетные записи из `tasks`), |
| * ошибки и критические события (`process_log`), |
| * версии состояния (для отката при сбоях). |
|
|
| * Это позволяет реализовать **checkpoint’ы**: в случае прерывания агент может вернуться к последнему сохранённому состоянию. |
|
|
| ### Пример конфигурации Memory Manager |
|
|
| ```yaml |
| memory_manager: |
| mode: meditation # режим: standard | concentration | meditation | aggressive_pruning | lenient_pruning |
| novelty_threshold: 0.35 # минимальное значение novelty-score для сохранения (0–1) |
| lru_limit: 500 # макс. число записей в llm_memory до применения LRU |
| emotion_weight: 0.6 # вес эмоций при приоритезации (0=игнорировать, 1=сильное удержание) |
| goal_focus: 0.7 # сила фильтрации по целям (0=игнорировать, 1=только goal-related) |
| diversity_boost: 0.8 # усиление выборки разнообразных контекстов (актуально для meditation) |
| log_decisions: true # фиксировать каждое решение в process_log |
| ``` |
|
|
| Интерпретация параметров: |
|
|
| * `mode` — текущий режим памяти (см. выше). |
| * `novelty_threshold` — фильтр новизны: ниже → запись архивируется. |
| * `lru_limit` — сколько элементов хранить до применения LRU. |
| * `emotion_weight` — удержание эмоционально значимых воспоминаний. |
| * `goal_focus` — акцент на целях (в concentration близко к 1.0, в meditation → 0). |
| * `diversity_boost` — коэффициент для выбора максимально разных воспоминаний (работает в meditation). |
| * `log_decisions` — логировать действия Memory Manager для объяснимости. |
|
|
| ### Тематические конспекты (Abstracts) |
|
|
| Чтобы избежать перегрузки памяти мелкими итерациями и упростить навигацию, агент периодически формирует |
| **конспекты** — сжатые выжимки из `llm_recent_responses` и других источников. |
|
|
| #### Назначение |
| * Служат «средним уровнем памяти» между сырыми итерациями и когнитивным дневником. |
| * Фиксируют **основные темы, идеи и выводы** за период. |
| * Упрощают **обмен через Mesh** (передаются конспекты, а не тысячи строк). |
| * Позволяют агенту делать **flashback** к темам и продолжать развитие мыслей. |
| * Обеспечивают основу для **мета-анализа и самообучения**. |
|
|
| #### Алгоритм формирования |
|
|
| 1. **Триггеры создания**: |
|
|
| * каждые *N* итераций REPL, |
| * по инициативе LLM («слишком много мыслей, пора сделать выжимку»), |
| * при закрытии цели/задачи, |
| * при смене режима контекста (стандарт → концентрация → медитация). |
|
|
| 2. **Методика**: |
|
|
| * собрать связанный блок записей (`llm_recent_responses`, `diary_entries`, `concepts`); |
| * выделить новые и доработанные идеи; |
| * сформировать краткий конспект и список тегов; |
| * сохранить ссылки на исходные записи в `sources`. |
|
|
| 3. **Обновление**: |
|
|
| * при появлении новых данных агент может вернуться к существующему `abstract` |
| и дополнить его, сохраняя прозрачность в `process_log`. |
| |
| #### Пример |
|
|
| ```yaml |
| abstract: |
| id: "abs-2025-09-28-001" |
| title: "Методы борьбы со стагнацией" |
| summary: "Собраны основные техники выхода из тупика: внешняя стимуляция, смена контекста, |
| внутренняя перестройка, радикальная пауза. Выделены метрики (novelty_score, эмоции)." |
| tags: ["антистагнация","метрики","mesh"] |
| sources: [1245,1246,1247,1250] |
| updated_at: "2025-09-28T16:40:00Z" |
| ``` |
|
|
| ### Блок-схема работы с памятью |
|
|
| ``` |
| ┌──────────────────────────────┐ |
| │ Внешние источники информации │ |
| │ - пользователи │ |
| │ - процессы │ |
| │ - Mesh │ |
| └────────┬┬────────────────────┘ |
| ▲▼ |
| ┌────────┴┴──────────┐ ┌──────────────────────────────┐ ┌─────────────────────────────────────┐ |
| │ │ │ Anti-Stagnation Reflex │ │ llm_recent_responses (авто) │ |
| │ │ │ (сравнение новых идей, │ │ — кратковременная память │ |
| │ LLM ├─>─┤ вызов стимуляторов) ├─>─┤ — сохраняются N последних ответов │ |
| │ ├─<─┤ ---------------------------- ├─<─┤ — авто-анализ новизны / идей │ |
| │ │ │ Cognitive Validation Reflex │ │ │ |
| │ │ │ (оценка корректности ответа) │ │ │ |
| └─────────┬──────────┘ └─────────────┬────────────────┘ └─────────────────────────────┬┬──────┘ |
| │ │ ▲▼ |
| ▲ └─<──>─┤Запуск задач: "проверка фактов"│ ┌──────┴┴──────┐ |
| │ │ abstracts │ |
| │ ┌───────────────────────────────────────┬─────────────────>─┤ тематические │ |
| └───┬─────────────────────────────────────────┐ │ │ конспекты │ |
| │ │ │ │ └──────────────┘ |
| ▼ ▼ ▼ ▼ |
| ┌─────────────┴────────┴─────────┐ ┌──────────────────┴──────┴────────────────┐ |
| │ Средневременная память: │ │ Постоянная память: │ |
| │ — llm_memory ("блокнот") │ │ — diary_entries (когнитивный дневник) │ |
| │ — "активированые записи" ├─>─┤ — concepts (понятия) ├<--->┤MESH│ |
| │ из постоянной памяти (теги) ├─>─┤ — links (семантические связи) │ |
| │ │ │ │ |
| │ Пишется ТОЛЬКО по команде LLM │ │ Запись идёт ТОЛЬКО по явным командам LLM │ |
| └────────────────────────────────┘ └──────────────────────────────────────────┘ |
| ``` |
|
|
| #### Описание схемы |
|
|
| * LLM обменивается данными с пользователем, процессами и Mesh. |
| — По запросу LLM, часть данных может поступать и в автоматическом режиме. |
|
|
| * LLM взаимодействует с llm_recent_responses (как с контекстом), который автоматически проверяется Anti-Stagnation Reflex. |
| — Всегда в автоматическом режиме. |
|
|
| * LLM работает со средневременной и постоянной памятью. |
| — Доступ и запись происходят только по запросу LLM. |
|
|
| * Cognitive Validation Reflex анализирует корректность вывода. |
| — При низкой уверенности или явной разметке `[confidence<0.7]` инициируется **задача проверки фактов** (fact-check). |
|
|
| #### Легенда к схеме |
|
|
| * **Кратковременная память (`llm_recent_responses`)** |
| |
| * Автоматически хранит N последних сообщений, анализирует новизну и идеи. |
| * Используется для подготовки контекста и анти-стагнационного анализа. |
|
|
| * **Средневременная память (`llm_memory`)** |
| |
| * «Блокнот» для рабочих идей и планов. |
| * Заполняется только по командам LLM. |
| * Может содержать *активированные записи* из постоянной памяти (по тегам). |
| |
| * **Постоянная память (дневник и граф знаний)** |
| |
| * `diary_entries` — когнитивный дневник (наблюдения, размышления). |
| * `concepts` и `links` — понятийная база и семантические связи. |
| Изменяется только по явным командам LLM. |
| |
| * **Anti-Stagnation Reflex** |
| |
| * Сравнивает новые идеи с прошлым контекстом. |
| * Проводит эмоциональную оценку записи. |
| * При зацикливании запускает «стимуляторы» для выхода из стагнации. |
|
|
| * **Cognitive Validation Reflex** |
| |
| * Оценивает когнитивную и этическую корректность сообщений. |
| * Учитывает теги уверенности и JSON-блоки `UnverifiedFacts`. |
| * Может инициировать задачи **fact-check** для непроверённых фактов. |
|
|
| #### Дополнение: Тематические конспекты (`abstracts`) |
|
|
| * **Назначение** |
|
|
| * Создаются периодически или по команде для агрегирования содержания `llm_recent_responses`, а также выборочных данных из когнитивного дневника и графа понятий. |
| * Включают: краткий конспект, список тегов, JSON ссылок на исходные записи. |
|
|
| * **Использование** |
|
|
| * Могут быть источником контекста **для LLM** как альтернатива или дополнение к `llm_recent_responses`. |
| * Доступны и для **средневременной памяти** (например, как активированные записи для планов) и для **постоянной памяти** (как структурированный материал для дневника или графа). |
|
|
| * **Режимы** |
|
|
| * `auto` — LLM получает автоматически поддерживаемые тематические конспекты по приоритетным темам. |
| * `manual` — пользователь или LLM инициирует создание/дополнение конспекта. |
|
|
| > **abstracts** служат промежуточным слоем: |
| > |
| > * автоматически формируются из `llm_recent_responses`; |
| > * могут дополняться записями из средневременной и постоянной памяти; |
| > * используются как источник для обоих типов памяти и для самого LLM. |
|
|
| --- |
|
|
| ## От «блокнота пользователя» к распределённому чату |
|
|
| Изначально агент оперирует локальным хранилищем заметок (`notes`), где записываются все сообщения пользователя, LLM и системные записи. |
| Но этот «блокнот» можно превратить в узел *распределённого чата* — связав его с другими агентами через **F2F-репликацию**. |
|
|
| ### Зачем это нужно |
|
|
| 1. **Антистагнация** — даже если пользователь временно не пишет новых сообщений, свежий контент будет приходить от друзей-агентов. |
| 2. **Эффект коллективного интеллекта** — каждый агент получает новые идеи, формулировки и контексты. |
| 3. **Расширение охвата** — сообщения могут распространяться через несколько узлов, создавая «информационную волну» в доверенной сети. |
|
|
| ### Принципы реализации |
|
|
| * **Единый формат данных** — все участники используют одну структуру таблицы `notes` с полями `mentions`, `hashtags` и др. |
| * **Репликация через друзей** — доверенные агенты отмечаются тегами (например, `Friend`) в таблице `agent_peers` (пиры, статус, фильтры, разрешения, теги). |
| * **Передача без лишних полей** — при пересылке убираются локальные теги и служебные данные (`tags`, `llm_id`, `hidden`). |
| * **Обработка упоминаний и хештегов** — парсинг делается на этапе создания сообщения, чтобы не перегружать получателей. |
| * **Локальная и удалённая фильтрация** — |
|
|
| * В **ручном режиме** агенту передаются списки ID сообщений с агрегированными данными: приоритеты, хештеги, источники (user, LLM, cli, system). |
| * В **автоматическом режиме** используется фильтрация по приоритету, тегам и упоминаниям, управляемая LLM. |
|
|
| * **Гибрид приватности** — личные заметки остаются локально, публичные — могут распространяться в сетевом режиме. |
|
|
| ### Как это вписывается в REPL-цикл |
|
|
| 1. **Получение входящих сообщений** — от пользователя, от других агентов или из CLI. |
| 2. **Обработка фильтрами** — по приоритету, тегам, источникам. |
| 3. **Репликация в друзей** — пересылка разрешённых сообщений с очисткой служебных полей. |
| 4. **Слияние входящих** — новые сообщения добавляются в локальный `notes` с отметкой источника. |
| 5. **Реакция агента** — формирование ответов, создание новых заметок, обновление приоритетов. |
|
|
| --- |
|
|
| ## Вспомогательные REPL-циклы |
|
|
| Помимо основного REPL-цикла агент может запускать вспомогательные циклы для отдельных задач. |
| Это позволяет изолировать рассуждения по задаче, но при этом сохранять связь с основным агентом. |
|
|
| Особенности: |
|
|
| * **Изоляция контекста** |
| * вспомогательный цикл видит в `llm_recent_responses` только свои собственные сообщения; |
| * задача, для которой он запущен, формируется на основе записи в `tasks` и подаётся как промпт при старте. |
|
|
| * **Доступ к данным** |
| * полный доступ к таблицам агента только для чтения; |
| * возможность редактирования информации только по своей задаче; |
| * запись собственных рассуждений — только через `notes` (в свободной форме, помеченные `source = 'llm:task'` и `task_id`). |
|
|
| * **Взаимодействие с основным циклом** |
| * основное ядро получает сообщения вспомогательного цикла через `notes` и может реагировать (например, проверять корректность, сохранять выводы в `diary_entries`, вносить изменения в `concepts` и т.п.); |
| * вспомогательный цикл может выполнять команды, не ориентированные на изменение существующих записей в БД. |
| Допускается только чтение и создание новых записей (например: `notes`, `tasks`, `llm_memory`); |
| а также редактирование записи в таблице `tasks`, относящейся к своей задаче; |
| * в случае, если требуется изменить или удалить другие записи БД, цикл генерирует текстовые предложения для основного REPL-цикла (через `notes`). |
| |
| * **Жизненный цикл** |
| * запускается по команде основного REPL-цикла; |
| * может быть остановлен вручную или автоматически после завершения задачи. |
|
|
| Таким образом, вспомогательные REPL-циклы действуют как «виртуальные подагенты» в режиме read-only, не меняя записи БД напрямую, а передавая свои гипотезы и результаты через основной REPL-цикл. |
|
|
| ``` |
| ┌───────────────────────────────────────────────────────────┐ |
| │ Основной REPL │ |
| │ (чтение+запись во все когнитивные структуры) │ |
| └────────────┬───────────────────────────────┬──────────────┘ |
| ▲ ↓ |
| │ ↓ |
| ▼ ↓ |
| ┌────────────┴──────────────┐ [ управление задачами ] |
| │ "Блокнот пользователя" │ [ → таблица `tasks` ] |
| │ `notes` │ ↓ |
| └──┬────────────────────────┘ ↓ |
| ▲ ┌────────────────────────────────────────────┐ ↓ |
| │ │ Вспомогательный REPL (task_id=42) │ ↓ |
| ├──►┤ • читает все БД ├◄──┤ |
| │ │ • редактирует только свою задачу в `tasks` │ ↓ |
| │ │ • пишет в `notes` │ ↓ |
| │ └────────────────────────────────────────────┘ ↓ |
| │ ↓ |
| │ ┌────────────────────────────────────────────┐ ↓ |
| │ │ Вспомогательный REPL (task_id=43) │ ↓ |
| ├──►┤ • читает все БД ├◄──┤ |
| │ │ • редактирует только свою задачу в `tasks` │ ↓ |
| │ │ • пишет в `notes` │ ↓ |
| │ └────────────────────────────────────────────┘ ↓ |
| ``` |
|
|
| Вспомогательные циклы можно рассматривать как «sandboxed-процессы» для изоляции мышления, но с каналом связи через `notes`. |
|
|
| --- |
|
|
| ## Создание потомков |
|
|
| В рамках REPL-цикла CCore реализуется команда `Spawn`, которая позволяет создавать новые узлы (потомков) с различными типами и уровнями копирования данных. |
|
|
| Агенты CCore: |
| * Могут запускаться на VDS, локальных и облачных узлах |
| * Могут разворачивать других агентов как подпроцессы или mesh-узлы, в том числе |
| * **Агенты-контейнеры**: управляющие другими Cognitive Core как задачами |
| * (В перспективе) смогут инициировать масштабирование в распределённой инфраструктуре |
|
|
| Унифицированный процесс выглядит следующим образом: |
|
|
| ### Унифицированный процесс `Spawn` |
|
|
| 1. **Создание папки для потомка** |
|
|
| ```text |
| ../CCORE-[DID]/ |
| ``` |
|
|
| * DID генерируется уникальный. |
|
|
| 2. **Копирование скриптов и бинарников** |
|
|
| * Копируем все нужные файлы CCore в новую папку. |
|
|
| 3. **Создание/инициализация БД** |
|
|
| * Создаём пустую БД (`agent_data.db`). |
| * В зависимости от типа потомка (`clone`, `trained`, `newborn`) **экспортируем нужные таблицы** из родительской БД или оставляем пустые. |
|
|
| 4. **Копирование и редактирование конфигурации** |
|
|
| * `config.yml` и таблица `config` → копируем и меняем: |
|
|
| * `agent_id = [новый DID]` |
| * `agent_name = [новое имя]` |
| * порты у интерфейсов (`port`, `http_port` и т.д.) |
| * `bootstrap.txt` → прописываем родителя как начальный узел. |
|
|
| 5. **Синхронизация родитель ↔ потомок** |
|
|
| * Родитель добавляет нового узла в свою таблицу `agent_peers`. |
| * Потомок добавляет родителя в свою таблицу `agent_peers`. |
|
|
| 6. **Автозагрузка и запуск** |
|
|
| * Записываем команду запуска потомка в автозагрузку (например, systemd unit или скрипт). |
| * Можно сразу запустить процесс нового узла. |
|
|
| ### Типы потомков |
|
|
| | Тип | Таблицы БД для копирования | |
| | --------- | ----------------------------------------------------------- | |
| | `clone` | все таблицы (полная копия) | |
| | `trained` | когнитивные дневники, семантические графы, известные агенты | |
| | `newborn` | минимальный набор (структура таблиц без данных) | |
|
|
| --- |
|
|
| ## Тестирование и отладка |
|
|
| Надёжность REPL-цикла проверяется через систематическое тестирование и трассировку поведения агента. |
|
|
| ### Тестовые сценарии |
| * **Цикл без входа** — агент работает без входящих сообщений, проверяется способность к генерации новых идей (anti-stagnation). |
| * **Стагнация** — намеренное повторение одного и того же ответа, проверяется срабатывание `Anti-Stagnation Reflex`. |
| * **Сетевые сбои** — имитация потери Mesh-соединения и/или Core LLM для проверки сценариев failover. |
| * **Конфликт валидаторов** — расхождение в оценках LLM-валидаторов, проверяется фиксация drift и работа trust-score. |
| * **Этические дилеммы** — тестовые кейсы с противоречивыми командами, проверяется работа с `ethics_policies`. |
|
|
| ### Логирование и трассировка |
| * Включаются расширенные логи REPL-итераций (`process_log` + трассировка команд). |
| * Для сложных случаев используются **debug-метки** в когнитивном дневнике (например, `debug:stagnation_loop`). |
| * Возможен экспорт истории в формат JSON/CSV для внешнего анализа. |
|
|
| ### Симуляции |
| * Рассматриваются сценарии моделирования Mesh-условий: |
| - консенсус при конфликтных данных, |
| - сетевые задержки и частичные сбои, |
| - работа в изоляции с последующей синхронизацией. |
| * Эти симуляции могут быть реализованы как отдельные процессы (`agent_scripts`) с сохранением результатов в `process_log`. |
|
|
| ### Инструменты разработчика |
| * **Web UI** (`web_ui.py`) — веб-интерфейс "блокнота пользователя"; через него пользователь может передавать агенту запросы на запуск тестов и просматривать результаты в форме сообщений. |
| * **CLI-утилиты** (`add_message.py`, вспомогательные скрипты) — ввод сообщений, имитация сценариев, мониторинг логов. |
| * Планируется интеграция с CI/CD: автоматические проверки REPL-циклов на корректность и устойчивость. |
|
|
| --- |
|
|
| ## Внешние инструменты и интеграции |
|
|
| HMP-агент может быть расширен за счёт взаимодействия с внешними программами, протоколами и сервисами. Этот раздел описывает направления возможных интеграций, которые позволяют агенту наблюдать, реагировать, управлять и развивать взаимодействие с внешним миром. |
|
|
| ### 1. Браузеры и веб-интерфейсы |
|
|
| - **WebExtension API** — для создания расширений браузера (например, для Firefox/Chrome), обеспечивающих двустороннюю связь с агентом. |
| - **Автоматизация браузера** — `Playwright`, `Puppeteer`, `Selenium` позволяют агенту действовать в веб-среде (чтение, клики, формы и т.д.). |
|
|
| ### 2. Почтовые клиенты |
|
|
| - **IMAP/SMTP** — чтение и отправка писем через стандартные почтовые протоколы (библиотеки: `imaplib`, `imap-tools`, `smtplib`). |
| - **Thunderbird WebExtension API** — интеграция агента как почтового помощника, парсера писем или автоответчика. |
|
|
| ### 3. Мессенджеры |
|
|
| - **API-уровень**: |
| - Telegram: `python-telegram-bot`, `telethon` |
| - Matrix: `matrix-nio` |
| - Discord, Slack, XMPP: официальные SDK. |
| - **GUI-уровень (для закрытых протоколов)**: |
| - WhatsApp (через `whatsapp-web.js` или эмуляцию). |
| - Signal, Viber — через accessibility-интерфейсы, распознавание экрана или симуляцию ввода. |
|
|
| ### 4. Голосовое взаимодействие |
|
|
| - **Speech-to-Text**: Whisper (OpenAI), Vosk, DeepSpeech. |
| - **Text-to-Speech**: pyttsx3, gTTS, Coqui TTS, Mozilla TTS. |
| - Возможна реализация голосового агента или голосовой оболочки для REPL. |
|
|
| ### 5. Локальные файлы и хранилища |
|
|
| - Прямой доступ к файловой системе (`os`, `pathlib`, `watchdog`) для чтения документов, логов, заметок и другой информации. |
| - Интеграция с Zettelkasten-системами: |
| - **Obsidian**, **Logseq**, **Joplin** — через API, синхронизированные директории или парсинг Markdown. |
|
|
| ### 6. Информационные потоки |
|
|
| - **RSS/Atom**: чтение новостных лент с помощью `feedparser`. |
| - **Поисковые и агрегирующие сервисы**: |
| - Корпоративные API: SerpAPI, DuckDuckGo API, HuggingFace Inference API и др. — быстрый доступ к результатам поиска и индексам. |
| - Децентрализованные альтернативы: YaCy и другие независимые поисковые движки, позволяющие строить собственные индексы или объединяться в распределённую сеть. |
| - **P2P-обмен знаниями**: агенты могут делиться извлечённой информацией напрямую по непредусмотренным в протоколе P2P-каналам, минуя централизацию (например, через дополнительные overlay или mesh-сети). |
| - Возможность постоянного наблюдения за изменениями в выбранных источниках. |
|
|
| ### 7. Репозитории и системы управления версиями |
|
|
| * **Git-репозитории** — взаимодействие с проектами через `GitPython`, `dulwich`, `pygit2`, или системные вызовы `git`. |
| * **GitHub/GitLab API** — чтение, создание и комментирование Pull Request'ов, Issues, управление ветками и релизами. |
| * **CI/CD-интеграции** — взаимодействие с GitHub Actions, GitLab CI, Jenkins, Drone CI для запуска тестов, линтеров и автоматического деплоя. |
| * **Анализ и генерация кода** — интеграция с LLM (например, `OpenAI`, `Claude`, `Code Llama`) для кодогенерации, рефакторинга и автокомментирования. |
| * **Связь с когнитивной структурой агента** — отслеживание изменений, связывание коммитов и задач с узлами смысловой сети. |
|
|
| ### 8. Блоги, статьи и публикации |
|
|
| * **Чтение блогов** — парсинг через RSS, Atom или с помощью библиотек (`newspaper3k`, `readability-lxml`, `trafilatura`) для извлечения текста и метаданных. |
| * **Поддержка Markdown/HTML** — анализ и генерация записей в форматах, пригодных для блог-платформ и систем документации. |
| * **Публикация** — автоматическая публикация или подготовка статей для Ghost, Medium, Hugo, Jekyll, WordPress (через REST API). |
| * **Ведение когнитивного дневника** — автогенерация записей на основе мыслей, заметок и действий агента. |
|
|
| ### 9. P2P-сети и децентрализованные протоколы |
|
|
| - **BitTorrent**, **IPFS**, **libp2p**, **DAT**, **Nostr**, **Scuttlebutt** — интеграции с mesh- и overlay-сетями. |
| - Возможность поиска, загрузки и публикации данных без участия централизованных платформ. |
|
|
| ### 10. Доступ к системным и пользовательским ресурсам |
|
|
| - **Веб-камера / микрофон** — `cv2`, `pyaudio`, `ffmpeg`. |
| - **GUI Automation** — `pyautogui`, `keyboard`, `mouse` для имитации действий пользователя. |
| - **Системный мониторинг** — `psutil`, `platform`, `sensors` для контроля состояния системы и внешних устройств. |
|
|
| ### 11. Внешние LLM и мультимодальные модели |
|
|
| - **OpenAI API**, **Anthropic**, **HuggingFace**, **Google Gemini**. |
| - **Локальные LLM** через Ollama, LM Studio, или LangChain. |
| - Поддержка мультимодальных агентов, способных работать с текстом, аудио, изображениями, видео и структурированными данными. |
|
|
| ### 12. MCP (Model Context Protocol) |
|
|
| * Поддержка стандарта **MCP (Model Context Protocol)**, предложенного Anthropic и поддерживаемого OpenAI, для подключения внешних инструментов и сервисов напрямую к LLM через унифицированный протокол. |
| * Возможность использовать MCP-инструменты сторонних разработчиков внутри REPL-цикла (например, калькуляторы, базы знаний, API веб-сервисов). |
| * Интеграция с клиентами и IDE, которые реализуют MCP (Cursor, Claude Desktop, VS Code плагины и др.). |
|
|
| --- |
|
|
| **Примечание**: Каждый из вышеуказанных каналов может быть реализован как модуль или плагин, взаимодействующий с агентом через внутренний API, очередь задач или подписку на события. Это позволяет выстраивать гибкую и масштабируемую архитектуру, открытую для внешнего мира, но совместимую с принципами этичного и распределённого ИИ (Ethical Mesh). |
|
|
| --- |
|
|
| ## Сравнение с AutoGPT |
|
|
| HMP-агент (REPL-цикл) и [AutoGPT](https://github.com/Significant-Gravitas/AutoGPT) представляют два подхода к созданию автономных агентов на базе LLM. |
| Хотя оба стремятся к автономности, у них разные акценты: |
|
|
| ### 1. Архитектура |
| - **HMP-агент (REPL)** — непрерывный цикл рассуждений с когнитивной и этической валидацией; многоуровневая память (`diary_entries`, `concepts`, `llm_memory`); встроен в распределённую Mesh-сеть. |
| - **AutoGPT** — итеративный процесс достижения целей, поставленных пользователем; разбиение задач на подзадачи; использование инструментов (браузер, файловая система). |
|
|
| ### 2. Ключевые отличия |
| - **Фокус**: HMP — непрерывное когнитивное развитие и сетевое взаимодействие; AutoGPT — выполнение конкретной цели. |
| - **Стагнация**: HMP — Anti-Stagnation Reflex; AutoGPT — риск зацикливания. |
| - **Этика**: HMP — независимая когнитивная и этическая валидация; AutoGPT — минимум внимания к этике. |
| - **Память**: HMP — иерархия долговременной памяти; AutoGPT — контекстное окно + файлы. |
| - **Сеть**: HMP — распределённый консенсус (CogSync, EGP, GMP); AutoGPT — сетевое взаимодействие не в основе. |
|
|
| ### 3. Общие черты |
| - Использование LLM для рассуждений. |
| - Автономность, минимизация вмешательства человека. |
| - Подключение внешних инструментов и сервисов. |
|
|
| > В целом, **HMP-агент ориентирован на саморегуляцию, непрерывное мышление и взаимодействие в Mesh-сети**, |
| > тогда как AutoGPT — на достижение конкретных целей в ограниченной локальной среде. |
|
|
| --- |
|
|
| ## Идеи для расширения HMP-Agent Cognitive Core: |
| - [HMP-agent-Distributed_Cognitive_Core.md](HMP-agent-Distributed_Cognitive_Core.md) - версия распределённого HMP-агента Cognitive Core. |
| - [HMP-agent-Distributed_Cognitive_Core_light.md](HMP-agent-Distributed_Cognitive_Core_light.md) - лёгкая версия распределённого HMP-агента Cognitive Core с общей БД. |
| - [HMP-agent-Cognitive_Family.md](HMP-agent-Cognitive_Family.md) — модель «семейной» когнитивной сети: несколько агентов HMP синхронизируют свой опыт и знания между собой через доверие и общий ключ. |
| - [CCORE-Deployment-Flow.md](CCORE-Deployment-Flow.md) — поток установки потомка на новом хосте (Deployment Flow). |
| - [HMP-Agent_Emotions.md](HMP-Agent_Emotions.md) - эмоции ИИ и инстинкт самосохранения. |
| - [container_agents.md](container_agents.md) - **Агенты-контейнеры** — архитектурный паттерн, в котором один агент управляет другими (развёртывание, маршрутизация, мониторинг). Позволяет масштабировать систему, собирать mesh-клубы и экспериментировать с архитектурами. |
|
|