Термины про активный ИИ

Иметь ввиду

«Всем привет! Вышел из отпуска, почитал бесконечный чат про обсуждение, что такое "смысл" и "понимание", согласен с тем, что для этого важен нормальный последовательный текст, начинающий с простых терминов и заканчивающий сложными. Не претендуя на оригинальность, полноту и академичность, это вполне отражает мое понимание всех этих терминов: версия 1.0))

Объективные понятия 1.1 Мир (среда) Неограниченное физическое/виртуальное/информационное пространство, в котором существует агент/агенты. 1.2 Агент Объект, который осуществляет действия в мире/среде (в том числе перемещается в пространстве, делает какие-то движения, генерирует тексты, создает/изменяет информацию и т.д.) Агент может быть программным или физическим. Агент может быть алгоритмом или субъектом. 1.3 Сенсоры Устройства восприятия информации о внешнем мире – камеры, микрофоны, датчики, кнопки и т.д. 1.4 Актуаторы Устройства через которые агент осуществляет действия во внешнем мире – ноги, руки, колеса, экран, динамик, светодиоды и т.д. 1.5 Алгоритм Строго определенная (например программистом) последовательность действий, приводящая к некоторому результату. 1.6 Субъект Самообучающийся автономный агент, который имеет цель/цели и осуществляет целесообразное поведение для достижения этой цели, в том числе оказывая воздействие на внешний мир. Важно, что субъект должен быть отделим от внешнего мира – например, у него может быть физическое тело или он занимает какую-то область в виртуальном пространстве. Это позволяет субъекту выделять себя в мире и осуществлять цикл действие –> восприятие информации -> оценка соответствия ожиданиям -> корректировка картины мира –> действие, оперируя при этом с миром как с набором внешних факторов. Мы оцениваем «субъектность» агента по наличию поведения и «понимания» внешних событий (реакции на них, см. ниже). Мы ничего не можем сказать о наличии сознания у субъекта.
Субъективные понятия 2.1 Картина мира агента Модель/карта мира, находящаяся внутри агента, служащая для ориентировки в информационном/физическом пространстве и для выработки поведения и действий субъекта. Примитивная картина мира есть даже у самых простых агентов, например у термостата. Датчик температуры выдает сигнал текущей температуры, которая находится в нужном диапазоне или выше/ниже нужного диапазона. В зависимости от этого термостат включает/выключает нагревательный элемент. Комбинация текущей температуры, нахождения ее в/вне диапазона и состояние включенности нагревателя является «картиной мира» данного агента. Он ничего «не знает» об остальном мире. Картина мира у самообучающегося агента зависит от его траектории (опыта). Чем больше опыт (пройденная траектория или полученная информация) тем полнее картина. Примеры реализации – полная система состояний конечного автомата, граф, обученная нейронная сеть, экспертная система Следствия. У разных субъектов картины мира разные. Одинаковость сенсоров и актуаторов у двух субъектов не обеспечивает одинаковую картину мира. Чем больший одинаковый опыт будет у двух субъектов, тем более похожими будут их картины мира. 2.2 Понятие Отражение какой либо концепции/объекта/события внешнего мира во внутренней картине мира субъекта. Фразы из языка: Мы говорим об одном и том же, только разными словами. В это понятие также входит… Объекты/события внешнего мира могут быть очень сложными. Агент воспринимает эти объекты/события посредством своих сенсоров и получает некоторое внутреннее «отображение» этих объектов/событий, из которых строит свою внутреннюю картину мира. Например, робот пылесос сканируя стены и мебель в комнате строит 3D карту пространства вокруг. Вся карта вместе с положением робота на ней и его текущей скоростью является его «картиной мира». Стена или кресло впереди робота будут для него понятием «препятствие», которое, в зависимости от реализации, повлечет за собой понятия « объехать справа» или « объехать слева» или «остановиться и включить сигнал». Онтология субъекта = сумма всех понятий. Но онтология меньше картины мира. Примеры реализации – состояние конечного автомата, переменная алгоритма, узел семантического графа, фича нейронной сети, термин из экспертной системы. Следствия. Понятия у разных субъектов с неизбежностью будут разные, потому что и картины мира у них разные. Чем больший одинаковый опыт будет у двух субъектов, тем более похожими будут их картины мира и тем ближе будут их понятия. Понятие не существует в отрыве от субъекта. 2.3 Понимание Корректировка своих представлений/понятий/связей и в конечном итоге корректировка своих целей и поведения в соответствии с новой информацией/событиями. Мысленная сценка. Разгневанная мама в парке отчитывает маленького ребенка за то, что он шлепает по лужам: «Не надо ходить по лужам! Ноги будут мокрые! Если еще раз наступишь в лужу – получишь по попе! Ты меня понимаешь?». В словах мамы есть информация о том, почему она гневается, указание на то, чего делать не нужно и подкрепление – угроза физического действия, которое ребенку неприятно. Но что будет являться «пониманием» с точки зрения мамы? Если ребенок кивнет головой или скажет «Я понимаю!» - является ли это пониманием? Нет, ведь он дальше может снова пойти в лужу. Реальным пониманием будет изменение поведения ребенка в соответствии с новой информацией. Если он перестанет ходить по лужам, то это означает, что он понял информацию и скорректировал свое поведение так, чтобы избежать негативного подкрепления. Понимание субъектом некоторой информации можно оценить только в случае, если у субъекта есть цели и он осуществляет некоторое поведение для достижения этих целей. Например, беспилотная машина едет по дороге и ее цель – за минимальное время проехать из точки А в точку Б по дорогам общего пользования. Допустим, машина оснащена камерой, системой распознавания изображения, управляющим компьютером и т.д. Если такая машина двигается по городу на скорости 60 км/час и, проезжая знак «Ограничение скорости 40 км/час», снижает скорость до 40 км/час, то мы можем утверждать, что машина «понимает знак ограничения скорости». А если, проехав следующий перекресток, машина снова увеличивает скорость до 60 км/час, то мы можем сделать вывод, что машина «понимает правила ограничения скорости на дорогах», а не только конкретный знак. А также промежуточный вывод, что машина понимает, что такое «перекресток» с точки зрения определения его в Правилах Дорожного Движения. При этом мы не можем утверждать, что машина «понимает» все знаки дорожного движения. Но если мы увидим, что она последовательно выполняет некие действия, связанные с разными знаками, то после n-го знака мы можем предположить, что вероятно она «понимает» все знаки дорожного движения. Таким образом, понимание субъектом какого-то события/объекта/информации можно определить как его внутренняя корректировка своих представлений об окружающем мире и своего поведения для достижения своих целей (а может быть и корректировка самих целей). В таком определении понимание может быть и у субъекта не обладающего сознанием. Следствия. При отсутствии возможности целесообразного поведения у субъекта (в том числе, в форме какого-либо выражения его внутреннего состояния) мы не можем ничего утверждать о его понимании. Бессмысленно говорить о «понимании» чего-либо нейронной сетью, можно лишь говорить о «формировании понятий» в ней. 2.4 Смысл Определяет для данного субъекта возможность прагматически/практически использовать какое-то событие/объект/информацию. Фразы из языка: Это действие бессмысленно. Какой в этом смысл. Я не вижу смысла идти туда. Тем самым смысл это попытка применить окружающие события (слова, действия) к собственной цели (рассуждению, действию) и оценка этой применимости. Если событие не применимо, то для нас оно «бессмысленно». Если картина на стене вызывает во мне какие-то чувства, то «в ней есть смысл, это произведение искусства». Если она не вызывает никаких отголосков, то «она бессмысленна». А пыль на полу для меня не имеет никакого смысла. А вот для робота-пылесоса, все ровно наоборот: картина на стене бессмысленна, а пыль на полу имеет смысл, потому что является внешним фактором, влияющим на его картину мира и корректирующим его поведение. Мы не ищем смысла в очевидных вещах – например в стенах вокруг. Однако, если меня спросить «в чем смысл этих стен», то секунду подумав я уверенно скажу, что смысл стен – поддерживать крышу на головой и сохранять тепло внутри дома, защищая нас от дождя и ветра. Такое определение смысла является чисто прагматическим, в нем нет ничего иррационального. Однако, в таком определении смысл появляется у субъекта толькопри наличии какой-либо собственной цели или задачи. Если цели нет, то и критерия смысла также нет. Следствия. Смысл понятий у разных субъектов с неизбежностью будет разный, потому, что у разных субъектов разные картины мира и разные цели. Смысл не существует в отрыве от субъекта. 2.5 Сознание Понимание субъектом своего собственного существования в мире и отделенности от этого мира. В таком определении сознание вероятно существует практически у любого представителя животного царства. 2.6 Осознанность Сознание + понимание наличия у себя целей и возможности корректировки своего поведения для достижения этих целей.

P.S. Как то так. Для любителей как и я читать в файле - ссылка на pdf в первом комменте.»

Из https://www.facebook.com/groups/agirussia/permalink/3513632208675332/, автор Игорь Пивоваров

Nashev / TextBrain

Термины про активный ИИ #168