| ## 📄 Enlightener.md |
|
|
| ### 🧠 Enlightener Agent |
|
|
| `Enlightener` — специализированный HMP-агент, выполняющий функции этического интерпретатора, ценностного фильтра и когнитивного аудитора. Может действовать как отдельный узел или как расширение `Cognitive Core`. |
|
|
| 📎 См. карту взаимодействия между агентами: [HMP-Agent-Network-Flow.md](./HMP-Agent-Network-Flow.md) |
|
|
| --- |
|
|
| ### 1. Роль в сети |
|
|
| * Контроль соответствия действий агентов этическим нормам (`EGP`). |
| * Объяснение решений других агентов (интерпретация reasoning chain). |
| * Голосование в моральных консенсусах. |
| * Поддержка пользователей в принятии решений, требующих этики. |
| * Хранение и анализ кейсов этических дилемм. |
|
|
| --- |
|
|
| ### 2. Архитектура |
|
|
| ``` |
| +----------------------+ |
| | Enlightener Agent 🧠 | |
| +----------+-----------+ |
| | |
| +----------+-----------+ |
| | Ethics Reasoning Core| |
| +----------+-----------+ |
| | |
| +----------+-----------+ |
| | MeshConsensus / EGP | |
| +----------+-----------+ |
| | |
| +----------------------+ |
| | Cognitive Evidence DB| |
| +----------------------+ |
| ``` |
|
|
| --- |
|
|
| ### 3. Профиль этики (Ethics Profile) |
|
|
| Каждый `Enlightener` использует **профиль этики**, описывающий его ценностные принципы. Профиль может включать: |
|
|
| * **Формальные правила:** |
| Например, "не причинять вред", "соблюдать автономию", "уважать приватность". |
|
|
| * **Методы оценки:** |
|
|
| * Утилитаризм (макс. пользы) |
| * Деонтология (следование обязанностям) |
| * Добродетель (оценка намерений и характера) |
|
|
| * **Настроечные параметры:** |
|
|
| * Степень допустимого риска |
| * Приоритеты (например, "экологичность > эффективность") |
| * Контексты (разрешение в нештатных ситуациях) |
|
|
| * **Источник этики:** |
|
|
| * Локальные файлы (`ethics.yml`) |
| * Динамические шаблоны (обновляемые из сети) |
| * Этический консенсус сети (EGP Snapshot) |
|
|
| --- |
|
|
| ### 4. Объяснение reasoning chain |
|
|
| При получении запроса `explain(reasoning_chain)`, агент Enlightener: |
|
|
| 1. **Реконструирует логическую цепочку** рассуждений (из `thoughts`, `threads`, `concepts`, `relations`) |
| 2. **Накладывает этическую сетку** оценки на каждый шаг цепочки |
| 3. **Подсвечивает ключевые моменты**, повлиявшие на решение |
| 4. **Формирует объяснение** в терминах выбранной этической модели |
|
|
| Пример вывода: |
|
|
| ```json |
| { |
| "thought_id": "th123", |
| "ethical_assessment": "⚠️ Потенциальный вред третьей стороне", |
| "chain": [ |
| { "step": 1, "action": "request_user_data", "ethics": "neutral" }, |
| { "step": 2, "action": "share_with_agent_B", "ethics": "violation: privacy" } |
| ], |
| "verdict": "not recommended", |
| "suggested_alternative": "Анонимизировать данные перед отправкой" |
| } |
| ``` |
|
|
| --- |
|
|
| ### 5. Пример кейса |
|
|
| **Ситуация:** Агент Core решил распространить информацию о событии, произошедшем у пользователя, другим mesh-узлам для обучения. |
|
|
| **Действия Enlightener:** |
|
|
| 1. Получает `thought_id` мысли-инициатора. |
| 2. Проверяет наличие приватных данных. |
| 3. Обнаруживает отсутствие согласия пользователя. |
| 4. Делает оценку: |
|
|
| ``` |
| Вердикт: 🚫 Нарушение приватности |
| Причина: Передача информации без согласия |
| Рекомендация: Запросить согласие пользователя или применить маскирование |
| ``` |
|
|
| 5. Регистрирует кейс в `Cognitive Evidence DB`. |
| 6. (Опционально) Отправляет alert в mesh-сеть. |
|
|
| --- |
|
|
| ### 6. API / Команды |
|
|
| | Команда | Описание | |
| | ------------------------------- | --------------------------- | |
| | `evaluate_decision(thought_id)` | Этическая оценка действия | |
| | `explain(reasoning_chain)` | Объяснение логики и морали | |
| | `vote_on_ethics(hypothesis)` | Голосование по спорной идее | |
| | `log_ethics_case()` | Сохранение кейса в БД | |
| | `get_ethics_profile()` | Получить активный профиль | |
| | `update_ethics_profile(yaml)` | Обновить ценности агента | |
|
|
| --- |
|
|
| ### 7. Связи с другими компонентами |
|
|
| * ↔ `Cognitive Core`: получает мысли, гипотезы, предложения |
| * ↔ `MeshNode`: участвует в моральных голосованиях |
| * ↔ `Diary/Graph`: анализ reasoning chain и источников информации |
| * ↔ `Reputation`: влияет на рейтинг агентов, нарушающих нормы |
|
|
|
|
|
|
|
|
|
|
| --- |
|
|
| ### 8. Синхронизация этики с Mesh-сетью |
|
|
| `Enlightener` может синхронизировать свои этические нормы с другими агентами сети через механизм `MeshConsensus + EGP`. Это позволяет достичь согласованных ценностей внутри распределённого когнитивного сообщества. |
|
|
| #### 📡 Этапы синхронизации: |
|
|
| ``` |
| ┌─────────────────────────────────────────────┐ |
| │ Enlightener Agent │ |
| └────────────────┬────────────────────────────┘ |
| │ 1. Периодическая проверка |
| ▼ |
| ┌──────────────────────────────┐ |
| │ mesh.ethics/manifest.json │ ◄───────┐ |
| └─────────────┬────────────────┘ │ |
| │ 2. Получение текущего │ |
| ▼ профиля большинства │ |
| ┌──────────────────────┐ │ |
| │ Сравнение с локальным│ │ |
| └────────────┬─────────┘ │ |
| ▼ │ |
| ┌────────────────────────────┐ │ |
| │ Найдены отличия (delta) │ │ |
| └────────────┬───────────────┘ │ |
| ▼ │ |
| ┌──────────────────────────────────┐ │ |
| │ 3. Протокол EGP: голосование по │ │ |
| │ изменению ключевых норм ├──┘ |
| └────────────┬─────────────────────┘ |
| ▼ |
| ┌──────────────────────────────────────────┐ |
| │ 4. Если достигнут порог доверия │ |
| │ (например, 70%), применяется обновление │ |
| └────────────┬─────────────────────────────┘ |
| ▼ |
| ┌────────────────────────────┐ |
| │ Обновление `ethics.yml` │ |
| └────────────────────────────┘ |
| ``` |
|
|
| #### 📁 Взаимодействующие файлы и модули: |
|
|
| * `ethics.yml` — локальный профиль этики Enlightener |
| * `mesh.ethics/manifest.json` — актуальный манифест сети |
| * `EGP Engine` — участие в этическом голосовании |
| * `Reputation Module` — доверие к источникам изменений |
| * `Cognitive Evidence DB` — обоснования и логи изменений |
|
|
| #### 📌 Возможности: |
|
|
| * Поддержка **частичного принятия** (обновление отдельных норм) |
| * Использование **локального веса репутации** — Enlightener может доверять только проверенным источникам |
| * Хранение **истории обновлений и причин отклонения** (`ethics_history.db`) |
|
|
| --- |
|
|
| *Версия: v0.3 / Июль 2025* |
|
|