OberonCore
https://forum.oberoncore.ru/

Реверс теста Тьюринга
https://forum.oberoncore.ru/viewtopic.php?f=57&t=6333
Страница 1 из 2

Автор:  Дмитрий Дагаев [ Воскресенье, 23 Декабрь, 2018 09:46 ]
Заголовок сообщения:  Реверс теста Тьюринга

Талеб, "Одураченные случайностью", раздел Реверс Теста Тьюринга.
Цитата:
Случайность может оказать значительную помощь в данном вопросе, поскольку есть
другой, гораздо более интересный способ различать болтуна и мыслителя. Можно
случайно создать риторику, но не подлинное научное знание. Это применение теста
Тьюринга для искусственного интеллекта, только наоборот. Что такое тест Тьюринга?
Британский математик и компьютерный пионер, Алан Тьюринг придумал следующее
испытание: компьютер можно считать интеллектуальным, если он может (в среднем)
обмануть человека, чтобы тот ошибочно принял его за другого человека. Обратное тоже
должно быть истинно. Человека можно считать невежественным, если компьютер, о
котором мы знаем, что он неинтеллектуален, может повторить его речь, заставив
человека поверить, что это было написано не компьютером, а им.

Существуют генераторы, предназначенные для того, чтобы структурировать такие
тексты и писать целые статьи. Они могут наугад выбирать фразы методом, который
называется рекурсивной грамматикой, и производить грамматически правильные, но
полностью бессмысленные предложения.

Цитата:
Некоторые деловые речи принадлежат к этой же категории, за исключением того,
что они менее изящны и привлекают другой тип словаря, чем литературные. Мы
можем построить речь в подражание вашему исполнительному директору, чтобы
убедиться, говорит ли он дело, или его речь – ничего не значащие слова того, кому
повезло занять эту должность. Как? Вы в случайном порядке выбираете пять фраз из
списка ниже, а затем соединяете их, добавляя что-нибудь, что нужно для построения
грамматически правильной речи.

«Мы заботимся об интересах нашего клиента / дорога вперёд / наши активы —
наши люди / создание акционерной стоимости / наше видение / наша экспертиза в /
мы обеспечиваем диалоговые решения / мы позиционируем себя на этом рынке / как
обслужить наших клиентов / кратковременные страдания ради долговечной выгоды
/ мы будем вознаграждены, в конечном счёте, и тогда / мы играем на нашей силе /
храбрость и намерение будут преобладать / мы преданы инновациям / счастливый
работник — производительный работник / обязательство превосходства / труд
создал человека».

Если это слишком близкое подобие речи, которую вы только что слышали от своего
босса, то я бы предложил вам поискать другую работу.

Автор:  Дмитрий Дагаев [ Воскресенье, 23 Декабрь, 2018 09:52 ]
Заголовок сообщения:  Re: Реверс теста Тьюринга

Похоже, в теорию 2 типов ума можно добавить еще один - тип 0 - спорадический. Спорадический ум неотличим от "компьютерного" и неспособен решать задачи методом проб и ошибок из-за атрофирования механизма обратной связи (равно как и ответственности) за содеянное. Может существовать только в комбинации с типами 1(комбинаторным) и 2(абстрагирующим)

Автор:  Дмитрий Дагаев [ Воскресенье, 23 Декабрь, 2018 14:50 ]
Заголовок сообщения:  Re: Реверс теста Тьюринга

Далее, интеллект сталкивается с решением задач, например, вычисление числа Пи. Для простоты используем мишень - вписанную в квадрат окружность и стреляем генератором случайных чисел с равномерным распределением.
Вложение:
circle.jpg
circle.jpg [ 4.52 КБ | Просмотров: 1453 ]

После чего, исходя из отношения попаданий в круг к попаданиям в квадрат вычисляем Пи с возрастающей точностью. Вариантов Монте-Карло множество, но для нас главное - участники.

А. Генератор случайных чисел - назовем его МЕНЕДЖЕР, порождающий спорадические последовательности с равномерным распределением.
Б. Эксперт оценки позиции - назовем его ИНЖЕНЕР, осуществляющий фильтрацию потока сознания участника А в части попадания в область круга. Должен обладать заложенными инженерными знаниями о круге.

Участник А - МЕНЕДЖЕР - соответствует спорадическому умотипу №0: он генерит последовательность предложений (поток сознания) и характеризуется отсутствием обратной связи. Техническое образование не необходимо. Участник А имеет более высокую позицию в социальной иерархии, более активный доминирует.

Участник Б - ИНЖЕНЕР - соответствует комбинаторный умотип №1: он привязан к объекту управления (мы же о производстве) и корректирует свои фильтры методом проб и ошибок.

Автор:  Дмитрий Дагаев [ Воскресенье, 23 Декабрь, 2018 15:05 ]
Заголовок сообщения:  Re: Реверс теста Тьюринга

Совершенно справедливо отмечено
Валерий Лаптев писал(а):
Другое дело, что не создано УНИВЕРСАЛЬНОГО ОБУЧАЕМОГО интеллекта.

То, что мы видим в настоящее время:
Умотип №0 - Генератор случайного потока сознания - успешно реализуется компьютерными средствами.
Умотип №1 - Комбинаторный интеллект - может быть реализован путем существенных вложений в обучение компьютерных систем специфическими знаниями.
Умотип №2 - Абстрагирующий интеллект - реализация отсутствует.

Надо понимать, что все эти выигрывающие программы в Го, Бридж и Шахматы основаны на тех или иных вариациях Монте-Карло.

Автор:  Дмитрий Дагаев [ Воскресенье, 23 Декабрь, 2018 15:25 ]
Заголовок сообщения:  Re: Реверс теста Тьюринга

Иной смысл приобретут высказывания "классиков":
Дмитрий Ливанов писал(а):
Перед нами стоит задача изменения содержания технического образования. Готовить надо не разработчиков технологий, а специалистов, которые могут адаптировать заимствованные технологии.

Перед нами - т.е. МЕНЕДЖЕРАМИ, умотип №0 - стоит задача востребовать специалистов - ИНЖЕНЕРОВ, умотип №1, которые могут адаптировать, т.е. получат пассивную роль и низшую ступень в социальной иерархии.

Герман Греф писал(а):
Не нужны нам математические школы. По-моему, это пережиток прошлого. Я категорический противник математических школ, потому что математические школы - это там, где отбирают людей

Греф выступает против отбора умотипа №2 - абстрагирующего, чем и хороши наши мат школы.

Алексей Кудрин писал(а):
На сегодня главный вызов предпринимателей в том, что нам нужны не просто знания по профессии, нам нужны активные люди

Кудрин выступает за отбор умотипа №0 - активных менеджеров.

Автор:  Дмитрий Дагаев [ Воскресенье, 23 Декабрь, 2018 15:43 ]
Заголовок сообщения:  Re: Реверс теста Тьюринга

Можно сделать кое-какие выводы по всему сказанному.

При современном стационарном (стагнирующем) состоянии высокотехнологичных областей на смену управленческой иерархии
умотип2-умотип1 (Главный конструктор - Инженер на производстве)
выстраивается другая:
умотип0-умотип1 (Менеджер - Инженер)

Умотип №0 неинтеллектуален и его деятельность уже сейчас может быть легко формализована и реализована программными средствами (планы, отчеты, инструкции). Машинный интеллект готов решать эти задачи уже сейчас. Специалисты с умотипом №0 уже сейчас уступают машинному интеллекту. Они неотличимы от компьютерного.

Проблема заключается в том, что умотип №0 в силу активной и доминирующей роли и ухудшающего отбора начинает управлять умотипом №1. Роботы уже управляют многими нами. Как навигатор управляет таксистом, к примеру.

А человек - становится все более невежественным.

Автор:  Artyemov [ Воскресенье, 23 Декабрь, 2018 18:01 ]
Заголовок сообщения:  Re: Реверс теста Тьюринга

Дмитрий Дагаев писал(а):
Иной смысл приобретут высказывания "классиков":
Дмитрий Ливанов писал(а):

Герман Греф писал(а):
Не нужны нам математические школы. По-моему, это пережиток прошлого. Я категорический противник математических школ, потому что математические школы - это там, где отбирают людей

Сам-то он (мамой клянётся) - 3 класса ЦПШ ;)
Алексей Кудрин писал(а):

Не надо полумер: "Ученые – колдуны проклятые. Их всегда, сколько человечество существует, жгли..." - классик товарно-сырьевой биржи Стерлигов.

Автор:  prospero78 [ Воскресенье, 23 Декабрь, 2018 20:57 ]
Заголовок сообщения:  Re: Реверс теста Тьюринга

Материал, безусловно интересный. Дмитрию Дагаеву -- жыЫрный плюсик.
Но меня ещё больше интересует вопрос (кое-какое своё мнение есть, но я его пока придержу): ЗАЧЕМ? Какова конечная цель?

Автор:  Artyemov [ Понедельник, 24 Декабрь, 2018 01:09 ]
Заголовок сообщения:  Re: Реверс теста Тьюринга

prospero78 писал(а):
Материал, безусловно интересный. Дмитрию Дагаеву -- жыЫрный плюсик.
Но меня ещё больше интересует вопрос (кое-какое своё мнение есть, но я его пока придержу): ЗАЧЕМ? Какова конечная цель?

Однозначно, в лучшем смысле этого понятия, за "державу обидно".

Автор:  Дмитрий Дагаев [ Понедельник, 24 Декабрь, 2018 19:39 ]
Заголовок сообщения:  Re: Реверс теста Тьюринга

То, что человеческий интеллект формализует свои виды деятельности - это нормально. Но бывают случаи, когда мы сами перекладываем управляющую и контролирующую человека деятельность на компьютерную программу. Например, на АЭС есть такие системы информационной поддержки оператора, которые даже действуют в экстремальной ситуации. Westinghouse в свое время внедрила систему ComPro или CPS - Computerized Procedures System. Система эта включается после срабатывания аварийной защиты как подсказчик оператору, как ему действовать по инструкции.
Вложение:
compro.png
compro.png [ 80.24 КБ | Просмотров: 1369 ]

Например, на рисунке оператору предлагается проверить закрытие стопорных клапанов с визуализацией на картинке. Если не закрыты, выполняются действия в правой колонке "contingency actions" по приведении в соответствие указанного оборудования. Действия оператора по инструкции фиксируются, равно как и состояние оборудования.

Великий смысл действия по инструкции, это - контроль приведения системы в безопасное состояние после того, как противоаварийная автоматика сработала. Как пара-медики сначала восстанавливают пульс и дыхание, а потом приступают к лечению пациента.

Однако, это - хороший пример того, как машинный интеллект управляет человеческим. ИИ из закрытой комнаты (скажем, серверная) выдает оператору команды:

Check all Main Stop Valves - CLOSED

И человек вынужден их выполнять, несоблюдение в аварийной ситуации чревато принятием на себя слишком большой ответственности.

Автор:  Дмитрий Дагаев [ Понедельник, 24 Декабрь, 2018 19:50 ]
Заголовок сообщения:  Re: Реверс теста Тьюринга

У нас тоже пытались в 90-е использовать технологию Westinghouse и даже разработали и обосновали симптомно-ориентированные аварийные инструкции, но бог миловал, не внедрили.
Вложение:
4a1.png
4a1.png [ 22.85 КБ | Просмотров: 1368 ]
Активно используются противоаварийные учения, тренируют операторов в критической ситуации.

Естественно, инструкции остались как раньше, но оператор принимает решение. Хотя за всеми цифрами в инструкциях серьезные расчетные обоснования.

Автор:  Дмитрий Дагаев [ Вторник, 25 Декабрь, 2018 19:26 ]
Заголовок сообщения:  Re: Реверс теста Тьюринга

Теперь обратим взгляд на инженеров (умотипа №1, скажем, программистов) со стороны менеджмента (умотипа №0).
- Программисты работают слишком медленно;
- Программисты работают эффективно лишь над одной задачей;
- Программисты могут выполнять каждый только свою фиксированную часть работы;
- Программисты плохо заменяют друг друга;
- Программисты плохо поддаются организации и т.д...

На самом деле эти задачи, в отличие от инструкций, отлично формализуются. Например для описания управления 3-мя программистами эффективным менеджером отлично подойдет старенький язык GPSS (взято из примера 4).
Код:
          SIMULATE
 EXP   FUNCTION   RN1,C12
0,0/.2,.22/.4,.51/.5,.6/.6,.92/.7,1.2/.8,1.61/.9,2.3/.95,3/.99,4.6/.999,6.9/1,1000
          GENERATE   30,10
          SEIZE      PROGRAMMER1
          ADVANCE    20,FN$EXP
          RELEASE    PROGRAMMER1
          SPLIT      1,MET1
          SEIZE      PROGRAMMER2
          ADVANCE    10,FN$EXP
          RELEASE    PROGRAMMER2
          TRANSFER   ,MET2
 MET1  SEIZE      PROGRAMMER3
          ADVANCE    8,FN$EXP
          RELEASE    PROGRAMMER3
 MET2  ASSEMBLE   2
          TERMINATE  1
          START      1000
          END.

Язык этот предназначен для имитационного моделирования. Смысл очень прост: генерится последовательность т.н. транзактов с определенными параметрами, которые последовательно/параллельно проходят все блоки (операторы) программы.
В нашем случае Спорадический умотип (менеджер) генерит заказы на разработку ПО по экспоненциальному закону в случайные моменты времени в диапазоне [20,40]. ПО разрабатывает сначала PROGRAMMER1, затем параллельно работают PROGRAMMER2 и PROGRAMMER3, каждый над своей частью заказа.
Ответственность за технику лежит на программистах, менеджер обеспечивает заказы и координацию (планы, сроки).

Необходимо отметить, что подобная схема управления используется во многих корпорациях, т.к.:
1. легко формализуема;
2. отлично масштабируется;
3. распределяет ответственность;
4. позволяет эффективно управлять людскими ресурсами (ответ на вопрос "Зачем?" Валерия Шипкова).
5. устойчива, т.к. отлично работает при исполнителях среднего уровня.

Автор:  Дмитрий Дагаев [ Вторник, 25 Декабрь, 2018 19:40 ]
Заголовок сообщения:  Re: Реверс теста Тьюринга

Следует обратить внимание, что данная управленческая деятельность (координация ресурсов) отлично формализуется и ложится на компьютерную реализацию. При наличии развитых коммуникационных систем (получение заказов, обработка ошибок, ERP и т.д.) вполне можно переводить менеджмент предприятий на компьютерную реализацию.
1. С точки зрения интеллектуальных затрат работа среднего менеджмента стремится к интеллектуальности ИИ, а порой даже обгоняет ИИ в плане невежества;
2. Повсеместные попытки менеджмента избавиться от ответственности располагают к формальным способам решения задач;
3. Менеджеры имеют дело не с непредсказуемой техникой, а с квалифицированными техническими специалистами, которые отфильтруют и исправят большую часть генеримой спорадической глупости.

Очевидный вывод - менеджеры как наиболее подходящий контингент под Реверс теста Тьюринга являются очевидными кандидатами на замену искусственным интеллектом.

Автор:  prospero78 [ Понедельник, 31 Декабрь, 2018 14:11 ]
Заголовок сообщения:  Re: Реверс теста Тьюринга

Дмитрий Дагаев писал(а):
Очевидный вывод - менеджеры как наиболее подходящий контингент под Реверс теста Тьюринга являются очевидными кандидатами на замену искусственным интеллектом.

Менеджер, как управленец (любой, например, уборщица или бюрократ-исполнитель) -- всё это не сильно интеллектуальная деятельность, которая уже вчера могла быть заменена машинами.

Автор:  Дмитрий Дагаев [ Четверг, 03 Январь, 2019 21:07 ]
Заголовок сообщения:  Re: Реверс теста Тьюринга

Вот и первоисточники классиков от 1986 года начинают издавать. Марвин Мински, Сообщество разума. С любимой Виртом цитатой Эйнштейна в начале и сравнением человеческого интеллекта с ИИ.

Автор:  Info21 [ Четверг, 03 Январь, 2019 23:13 ]
Заголовок сообщения:  Re: Реверс теста Тьюринга

Дмитрий Дагаев писал(а):
Вот и первоисточники классиков от 1986 года начинают издавать. Марвин Мински, Сообщество разума. С любимой Виртом цитатой Эйнштейна в начале и сравнением человеческого интеллекта с ИИ.
"Сообщество разума" немного искажает смысл оригинала.

Автор:  PSV100 [ Четверг, 10 Январь, 2019 20:49 ]
Заголовок сообщения:  Re: Реверс теста Тьюринга

Дмитрий Дагаев писал(а):
Похоже, в теорию 2 типов ума можно добавить еще один...
[...]
Вот и первоисточники классиков от 1986 года начинают издавать...

В смежной теме про умотипы акцентировалось на отсутствии публикаций по тематике, известные результаты лишь косвенно затрагивают проблематику. В связи вспомнилась ещё одна классика тех же годов, также насчёт ИИ от Поспелова и коллег.

Ниже приложена книга "Ситуационное управление. Теория и практика." 1986 г. -- вопросы оперативного управления сложными объектами, базис моделирования основан на "интеллектуальных" принципах (фактически, этот базис и есть представление моделей мышления). Отдельно выделена в файл глава 1.3 "Психологические предпосылки", где сжато рассмотрены психологические гипотезы насчёт мышления как раз в ключе темы про умотипы. Однако, тип ума понимается не как характеристика личности, а форма мышления. Выделяются три формы: стимул-реакция (бихевиоризм), лабиринт возможных путей (комбинаторика) и так называемое модельное мышление -- построение моделей лабиринта (фактор саморегуляции).
Отдельно выделены в файлы и связанные вспомогательные заметки: гл. 4.2 "Обобщение понятий и классификация у человека" и гл. 5.7 "Особенности рассуждений у человека".

Книга "Мышление и автоматы" 1972 г. (также приложена ниже) уже более развёрнуто рассматривает формы мышления (как предшествующие основания для техники моделирования, приведенной выше). Причём вместо философии содержится "кибернетический" подход (с постановкой психологических опытов) как попытка создать основу расширения теории автоматов (есть в т.ч. акценты и на том, как "обычные" автоматы могут решать некоторые "интеллектуальные" задачи).

На первый взгляд в материалах мало чего иного по сравнению с тезисами темы про умотипы. Однако, можно найти некие различия в интерпретации явлений, к примеру, понимание эвристических принципов, которые ещё не являются "модельным мышлением" по Поспелову -- по этому поводу отдельно выделена гл. 2 "Принципиальные неудачи кибернетического моделирования процесса принятия решения".
Вложение:

Вложение:

Вложение:

Вложение:

Вложение:

Вложение:

Автор:  Info21 [ Пятница, 11 Январь, 2019 14:39 ]
Заголовок сообщения:  Re: Реверс теста Тьюринга

Поспелов запутывает сам себя, повторяя Главную ошибку антропологии -- веру в атрибут "сапиенс".

Автор:  Дмитрий Дагаев [ Воскресенье, 17 Февраль, 2019 15:59 ]
Заголовок сообщения:  Re: Реверс теста Тьюринга

Известный аргумент противника ИИ
Джеймс Баррат писал(а):
Философ Джон Серль предложил для доказательства этого утверждения (ИИ, эквивалентный человеческому интеллекту, невозможен) мысленный эксперимент, получивший название "китайской комнаты".

Представьте, что человека, совершенно не говорящего и не понимающего по-китайски, заперли в комнате, полной коробок с карточками, на которых изображены китайские иероглифы (своеобразная база данных), и книгой инструкций на его родном языке о том, что нужно делать с этими иероглифами (программа). Представьте также, что люди вне комнаты передают этому человеку другие карточки с китайскими иероглифами, которые на самом деле (он этого не знает) представляют собой вопросы на китайском языке (входной сигнал). И представьте еще, что, следую инструкциям (программе), человек в комнате может передавать обратно карточки с китайскими иероглифами, представляющие собой верные ответы на эти вопросы (выходной сигнал).

Человек в комнате корректно отвечает на вопросы, так что люди снаружи считают, что он может общаться на китайском. Тем не менее на самом деле он не понимает по-китайски ни слова. Подобно этому человеку, заключает Серль, компьютер никогда не научится по-настоящему думать и понимать

Автор:  Дмитрий Дагаев [ Воскресенье, 17 Февраль, 2019 16:22 ]
Заголовок сообщения:  Re: Реверс теста Тьюринга

Я бы согласился с аргументами Серля, если бы не существовала независимая от развития ИИ возможность деградации человеческой производственной деятельности до уровня обитателя китайской комнаты. Если привести деятельность, выполняемую человеком к небольшому набору инструкций, методических указаний, то такая деятельность легко формализуется для выполнения ИИ в будущем.

Личный опыт общения со Сбербанком РФ (возглавляемым Г.Грефом), говорит о том, что действия, совершаемые ПО в автоматической режиме (например, блокировка карт) не могут быть объяснены или предсказаны персоналом службы поддержки. Служба поддержки работает четко по инструкции и в объеме своих функций. А ваши некоторые действия могут привести к блокировкам.

Я не даю оценки, хорошо это или плохо со стороны уважаемого банка. Я лишь говорю о том, что ряд видов операционной деятельности и службы поддержки сведен до уровня обитателя китайской комнаты. И не играет никакой роли, кто в ней находится, человек или компьютер.

Страница 1 из 2 Часовой пояс: UTC + 3 часа
Powered by phpBB® Forum Software © phpBB Group
https://www.phpbb.com/