Nashev
commented
5 years ago В последнем абзаце у меня получился контроль над мыслепреступлениями ИИ.
Open Nashev opened 5 years ago
Nashev
commented
5 years ago В последнем абзаце у меня получился контроль над мыслепреступлениями ИИ.
Любую обработку данных из накапливаемой базы можно делать вручную, и затем можно и нужно автоматизировать. Но главное — можно автоматизировать через использование этой базы. В ней же хранить варианты настроек, юзкейсы, ссылки на опорные понятия в данных, которые эта обработка обрабатывает. Всю информацию по решаемой задаче надо стремиться сохранять в том же едином распределенном «текстовом мозге», данные которого обрабатываются.
Для этого первичной задачей становится организация хранения в нём всего такого. Хранение это, как и всё остальное в этом мозгу, тоже будет многослойным, и начать можно с хранения неразобранных (непрочитанных мозгом) текстов. Но далее их все равно нужно разобрать на понятия.
В итоге должно выясниться, что в мозгу хватает данных, чтоб выполнять все эти задачи одним универсальным механизмом, для отдельных нужд пользуясь различными внешними инструментами, информация о способах использования которых тоже лежит в мозгу. Должна получиться система, способная решать задачи лишь на основании недоформулированных ТЗ, получаемых в диалоге.
Управление исполнительным механизмом, что он должен делать, а что нет, хотелось бы оставить за админом, но нужно здесь будет искать баланс между детализацией и безопасностью. Излишняя детализация зафлудит админа, недостаточная — тоже сделает возможным пропуск важного.
Что важно а что нет — тоже можно отдать в данные мозга, но что помешает к этим понятиям добавить кучу оговорок и аргументов против, которые будут влиять на результат? Жесткий фильтр на применение только исходной постановки задачи в средстве реализации задачи контроля, например. Ведь источники всех данных мозг тоже должен хранить и активно различать!
Можно делать дополнительный анализ на предмет того, не попалось ли в мозгу чего-нибудь такого, что могло бы повлиять на средства контроля, не будь в них того фильтра. Вдруг что полезное найдётся? Или опасное.