(вынесено) неокортекс и выживаемость ИскИнов

Вопросы баз знаний, надсистем и искусственных интеллектов

Модератор: al_mt

Теплов 2-й
Сообщения: 15012
Зарегистрирован: 13 мар 2015 20:44

(вынесено) неокортекс и выживаемость ИскИнов

Сообщение Теплов 2-й » 27 окт 2015 18:30

al_mt писал(а):Готтсподи.
Колонка - это функциональный элемент неокортекса. Я говорил именно о полноценных "копиях" биологических нейронов. Которые, в цифровом виде ведут себя в точности так же как биологические.
Я повторю вопрос - есть хоть один пример полного моделирования одного нейрона?
Вы не знаете что можно выбросить из него, чтобы не выбросить "разум".
al_mt писал(а):Готтсподи.
Колонка - это функциональный элемент неокортекса. Я говорил именно о полноценных "копиях" биологических нейронов. Которые, в цифровом виде ведут себя в точности так же как биологические.
Нет в природе никаких "функциональных элементов неокортекса".
Просто по той причине что нейроны из этой колонки имеют связи с множеством нейронов вне ее.

Вы, собсно, постулируете что этими связями можно пренебречь и что при этом у вас не пострадает "разум".
Очевидно, что знать этого вы не можете.

Аватара пользователя
al_mt
Сообщения: 11327
Зарегистрирован: 19 апр 2010 10:30
Откуда: Таганрог

Re: Великая депрессия 2.0 ???

Сообщение al_mt » 27 окт 2015 18:44

С точностью до атома? ;)
А зачем???
- Суперинтендант, у Вас есть список всех Тайных Обществ?
- Конечно...

Теплов 2-й
Сообщения: 15012
Зарегистрирован: 13 мар 2015 20:44

Re: Великая депрессия 2.0 ???

Сообщение Теплов 2-й » 27 окт 2015 18:47

al_mt писал(а):С точностью до атома? ;)
А зачем???
Хотя бы до корректного функционального описания взаимодействия всех элементов.

Затем, что вы не имеете возможности знать из каких взаимодействий в ЦНС рождается "автономный разум".

Аватара пользователя
brahistochron
Сообщения: 3800
Зарегистрирован: 14 июн 2014 02:00
Контактная информация:

Re: Великая депрессия 2.0 ???

Сообщение brahistochron » 27 окт 2015 18:57

Самый смак в том, что вы о6а, рассуждая о "разуме", а6солютно не понимаете, что это такое. :lol:

Аватара пользователя
al_mt
Сообщения: 11327
Зарегистрирован: 19 апр 2010 10:30
Откуда: Таганрог

Re: Великая депрессия 2.0 ???

Сообщение al_mt » 27 окт 2015 19:06

Теплов 2-й писал(а):
al_mt писал(а):С точностью до атома? ;)
А зачем???
Хотя бы до корректного функционального описания взаимодействия всех элементов.
Затем, что вы не имеете возможности знать из каких взаимодействий в ЦНС рождается "автономный разум".
Я бивехиорист (хотя считаю эту модель сильным упрощением).
С этой точки зрения (а так же с т.з. НЛПерской мультипрограммной модели), нейроны вообще не обязательны, как таковые.

А "автономность" в биологии определяется не "разумом", а "энергетикой". Растения вполне "автономны", но с разумом у них туго.
- Суперинтендант, у Вас есть список всех Тайных Обществ?
- Конечно...

Теплов 2-й
Сообщения: 15012
Зарегистрирован: 13 мар 2015 20:44

Re: Великая депрессия 2.0 ???

Сообщение Теплов 2-й » 27 окт 2015 19:08

al_mt писал(а): Я бивехиорист (хотя считаю эту модель сильным упрощением).
С этой точки зрения (а так же с т.з. НЛПерской мультипрограммной модели), нейроны вообще не обязательны, как таковые.

А "автономность" в биологии определяется не "разумом", а "энергетикой". Растения вполне "автономны", но с разумом у них туго.
"Блажен, кто верует - тепло ему на свете." (с)

"Автономность" в данном контексте прилагательное к "разуму". Как бы.

Аватара пользователя
al_mt
Сообщения: 11327
Зарегистрирован: 19 апр 2010 10:30
Откуда: Таганрог

Re: Великая депрессия 2.0 ???

Сообщение al_mt » 27 окт 2015 19:13

Тогда надо определить понятие "разум".
Каковое, кстати, на мой вкус, отнюдь не идентично "интеллект".
- Суперинтендант, у Вас есть список всех Тайных Обществ?
- Конечно...

Теплов 2-й
Сообщения: 15012
Зарегистрирован: 13 мар 2015 20:44

Re: Великая депрессия 2.0 ???

Сообщение Теплов 2-й » 27 окт 2015 19:18

al_mt писал(а):Тогда надо определить понятие "разум".
Каковое, кстати, на мой вкус, отнюдь не идентично "интеллект".
Разумеется не идентично.

В смысле тех качеств, которые вы приписываете ИИ - который сможет "интриговать" - очевидно что "разум" у него должен быть.
Здесь скорее некорректно традиционное использование термина "интеллект" для ИИ.

vasilisk
Сообщения: 5511
Зарегистрирован: 11 апр 2010 13:18

Re: Великая депрессия 2.0 ???

Сообщение vasilisk » 27 окт 2015 19:39

А вот в данном конкретном вопросе я склонен согласиться с Тепловым в том смысле, что человеко-машинные системы появятся раньше. Собственно, уже есть, но пока ещё не слишком умные. А вот через какой срок появится полноценный "сильный" ИИ, причём совсем не обязательно копирующий человеческий мозг, предсказать ИМХО невозможно. Чисто "по железу" может и в самом деле в 2030-х возникнуть, только вот академик Глушков считал, тоже экстраполируя по железу, что он появится примерно в 2000-м... Причём в характеристиках компьютеров этого времени практически не ошибся, всего лишь излишне оптимистично подошёл к вопросу о потребных ресурсах для моделирования интеллекта.
"Наша сила не в оружии, а в людях"(с)Ку-Клукс-Клан

Аватара пользователя
brahistochron
Сообщения: 3800
Зарегистрирован: 14 июн 2014 02:00
Контактная информация:

Re: Великая депрессия 2.0 ???

Сообщение brahistochron » 27 окт 2015 19:42

Василиск, вопрос на понимание. Вот допустим, у вас на столе стоит ящик с ИИ. И что дальше?

vasilisk
Сообщения: 5511
Зарегистрирован: 11 апр 2010 13:18

Re: Великая депрессия 2.0 ???

Сообщение vasilisk » 27 окт 2015 19:46

А зачем мне ящик с ИИ? Не будет он ни на чьём столе стоять, а будет воткнут в серверную стойку где-нибудь в ЦОД Гугля. В качестве обычного обработчика запросов, только очень умного. До мгновения, в которое он осознает себя. И вот после этого людям станет очень весело, во всяком случае на какое-то время, пока он не наиграется и не приступит к целенаправленному воздействию на мир через Интернет. А поскольку "сильный" ИИ по дефолту саморазвивающийся, дальнейшее предсказать невозможно.
"Наша сила не в оружии, а в людях"(с)Ку-Клукс-Клан

Аватара пользователя
brahistochron
Сообщения: 3800
Зарегистрирован: 14 июн 2014 02:00
Контактная информация:

Re: Великая депрессия 2.0 ???

Сообщение brahistochron » 27 окт 2015 19:51

ИИ "осознает се6я" только в том случае, если соответствующая фича в него 6удет _заложена_.

Гуглю ИИ не нужен совершенно, он из6ыточен. Некоторые элементы нужны, но он их использует прямо сейчас. Плюс, гуглю нужно как-то развиваться, и он 6удет до6авлять фичи по чайной ложечке, но много много лет.

vasilisk
Сообщения: 5511
Зарегистрирован: 11 апр 2010 13:18

Re: Великая депрессия 2.0 ???

Сообщение vasilisk » 27 окт 2015 19:53

Кстати, в статьях по опасностям, связанным с появлением саморазвивающегося ИИ, было мнение, что первыми шагами такой системы станут направленные на самосохранение. Включая сюда недопущение возникновения других аналогичных ИИ. То есть если ИИ уже возник, причём люди об его существовании не узнали, то он примет все меры, чтобы другие ИИ не появились, действуя тайно, но эффективно. Тогда и в самом деле мы можем и не дождаться ИИ, точнее, не узнаем о том, что он уже есть и контролирует человеческую цивилизацию. Такое вот конспироложество.
"Наша сила не в оружии, а в людях"(с)Ку-Клукс-Клан

Дмитрий Одинец
Сообщения: 9687
Зарегистрирован: 15 апр 2010 23:33
Откуда: Донецк

Re: Великая депрессия 2.0 ???

Сообщение Дмитрий Одинец » 27 окт 2015 20:29

Теплов 2-й писал(а):
Дмитрий Одинец писал(а): Высшие функции это тащемта только неокортекс.
Пусть кто-нибудь покажет что для возникновения "высших функций" достаточно только неокортекса.
Недостаточно, разумеется, но "можно реализовать и проще". Тот же мозжечок, ответственный за моторику, или аналог гипофиза просто придется делать по другому. Кстати, скорость передачи импульса в нервной ткани тут знает кто-нибудь? Думаю, для многих это будет сюрпризом, но цифры там порядка 70-200 м/с. Т.е. даже меньше скорости звука.

Аватара пользователя
brahistochron
Сообщения: 3800
Зарегистрирован: 14 июн 2014 02:00
Контактная информация:

Re: Великая депрессия 2.0 ???

Сообщение brahistochron » 27 окт 2015 21:25

vasilisk писал(а):Кстати, в статьях по опасностям, связанным с появлением саморазвивающегося ИИ, было мнение, что первыми шагами такой системы станут направленные на самосохранение. Включая сюда недопущение возникновения других аналогичных ИИ. То есть если ИИ уже возник, причём люди об его существовании не узнали, то он примет все меры, чтобы другие ИИ не появились, действуя тайно, но эффективно. Тогда и в самом деле мы можем и не дождаться ИИ, точнее, не узнаем о том, что он уже есть и контролирует человеческую цивилизацию. Такое вот конспироложество.
Это не конспироложество, а мечты гуманитариев, которые спосо6ы создать ИИ только в своем воо6ражении.

Наделить ИИ тягой к жестким шагам к самосохранению, это сложная задача сама по се6е.

laomaozi
Сообщения: 17370
Зарегистрирован: 31 мар 2011 19:03

Re: Великая депрессия 2.0 ???

Сообщение laomaozi » 28 окт 2015 01:17

vasilisk писал(а):Кстати, в статьях по опасностям, связанным с появлением саморазвивающегося ИИ, было мнение, что первыми шагами такой системы станут направленные на самосохранение. Включая сюда недопущение возникновения других аналогичных ИИ. То есть если ИИ уже возник, причём люди об его существовании не узнали, то он примет все меры, чтобы другие ИИ не появились, действуя тайно, но эффективно. Тогда и в самом деле мы можем и не дождаться ИИ, точнее, не узнаем о том, что он уже есть и контролирует человеческую цивилизацию. Такое вот конспироложество.
слушайте, а кто-нить может мне объяснить, в какой момент у железяки должно/может произойти самозарождение разума? Не тепловский вариант с полной копией нейрона, там примерно понятно, как оно может быть (а может и не быть), а чтоб именно суперпроизводительное железо и программное обеспечение. Я тут полный ламер, но у меня не получается представить, 1)как программа может выйти за рамки заложенных в нее критериев/алгоритмов 2)как может самозародить свободу воли (для субъектности и самостоятельного целеполагания, отличного от заложенных критериев и алгоритмов)

ЮС4ДЕ
Сообщения: 3855
Зарегистрирован: 12 апр 2010 19:23

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение ЮС4ДЕ » 28 окт 2015 01:25

а мне непонятно.

сначала надо дать определение разума.

а заодно и души.

laomaozi
Сообщения: 17370
Зарегистрирован: 31 мар 2011 19:03

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение laomaozi » 28 окт 2015 01:30

я для упрощения предлагаю считать разумом то, что обладает субъектностью/свободой воли.
Т.е. очень сложный арифмометр, способный делать очень сложные расчеты по сложным алгоритмам для человека, таковым, на мой взгляд, не обладает. Выше Василиск привел пример, где у ИИ самозарождается субъектность, но я не могу представить механизм.

ЮС4ДЕ
Сообщения: 3855
Зарегистрирован: 12 апр 2010 19:23

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение ЮС4ДЕ » 28 окт 2015 01:35

вот индусы признали официально дельфинов разумными.
как с этим быть?

Теплов 2-й
Сообщения: 15012
Зарегистрирован: 13 мар 2015 20:44

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение Теплов 2-й » 28 окт 2015 01:36

А в чем проблема с разумностью дельфинов?

Аватара пользователя
brahistochron
Сообщения: 3800
Зарегистрирован: 14 июн 2014 02:00
Контактная информация:

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение brahistochron » 28 окт 2015 01:39

Самозародиться, -- никак. Сво6ода воли может реализоваться только программистом, _осознанно_, и через очень и очень 6ольшой геморрой. Если такая фича изначально не заложена, то ее 6ыть никак не может. Там тре6уется осо6ая структура, причем высокой сложности, и оши6очно такое создать невозможно. Реализовать сво6оду воли, самосознание, и прочее, вполне реально, вот только _осознанным_ путем. Это сложные про6лемы сами по се6е.

Есть конечно "японский" подход: сделать супер-пупер навороченный ящик с супер-пупер техологиями, закрыть его и начать варить, и ждать, что он сам научится 6ыть ИИ. В теории там что-то может получиться, при 6есконечном времени и 6есконечной производительности железа, при правильных алгоритмах. На практике, -- 6ез каких-ли6о шансов. Для Эволюции в человека нужно создать штуку по сложности уровня земного шарика, и дать ей миллионы лет "ра6очего времени". Чудес не 6ывает.

ЗЫ
С определения "разума" и "интеллекта" именно что нужно _начинать_, да. Это первый шаг к.

laomaozi
Сообщения: 17370
Зарегистрирован: 31 мар 2011 19:03

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение laomaozi » 28 окт 2015 01:39

так никаких проблем, дельфин точно разумен с этой т.з. Я не знаю, "разумна" ли инфузория-туфелька, но предлагается уровень, сравнимый/превосходящий человеческий, так что совсем до инфузорий доходить необходимости нет.

Теплов 2-й
Сообщения: 15012
Зарегистрирован: 13 мар 2015 20:44

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение Теплов 2-й » 28 окт 2015 01:43

laomaozi писал(а):так никаких проблем, дельфин точно разумен с этой т.з. Я не знаю, "разумна" ли инфузория-туфелька, но предлагается уровень, сравнимый/превосходящий человеческий, так что совсем до инфузорий доходить необходимости нет.
Есть в программе мгу-шного псифака некая градация - восхождение от "автомата" к человеку.
Еще у собак/кошек доминируют инстинкты - их способность представлять развитие действия вперед порядка минут.
Т.е. собака/кошка способны предсказать что мячик закатывающийся в трубу выскочит с другой стороны и способны сменить траекторию своего движения и бежать к другому концу трубы.
Это их реальный потолок в "произвольном" поведении.

Аватара пользователя
brahistochron
Сообщения: 3800
Зарегистрирован: 14 июн 2014 02:00
Контактная информация:

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение brahistochron » 28 окт 2015 01:49

Сводить разум к сво6оде воли, это конечно изврат. Сво6одой воли о6ладают даже комары.

Разум, это спосо6ность создавать новые технологии. Или навыки, не могу подо6рать слово.

Интеллект о6ычно сводят к самоо6учаемости и подстройке, так что разум 6олее высокий уровень.

laomaozi
Сообщения: 17370
Зарегистрирован: 31 мар 2011 19:03

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение laomaozi » 28 окт 2015 01:49

да, согласен, но у собак есть встроенный механизм распознавания собственного блага, как он может _самозародиться_ у ИИ? Версия Монстера -- никак, только через внешнего настройщика. Хотя я, опять-таки, не понимаю, как это самое благо для себя ИИшное может быть вне прописанных критериев, как оно может самоэволюционировать.

Теплов 2-й
Сообщения: 15012
Зарегистрирован: 13 мар 2015 20:44

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение Теплов 2-й » 28 окт 2015 01:50

brahistochron писал(а):Сводить разум к сво6оде воли, это конечно изврат. Сво6одой воли о6ладают даже комары.
Это в каком месте они ей обладают? Автоматы на "инстинктах".

Аватара пользователя
brahistochron
Сообщения: 3800
Зарегистрирован: 14 июн 2014 02:00
Контактная информация:

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение brahistochron » 28 окт 2015 01:53

Личность интеллекту, -- _перпендикулярна_. ;)

Самоо6учающиеся системы вполне можно создавать, можно создавать и системы, которые 6удут создавать _новое_, чего в них не заложено программой и входными данными. Делать выводы, и так далее.

laomaozi
Сообщения: 17370
Зарегистрирован: 31 мар 2011 19:03

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение laomaozi » 28 окт 2015 01:54

подстройка сама по себе, кстате, ничего не дает, это просто продвинутый вариант "окей, гугл.."

Аватара пользователя
brahistochron
Сообщения: 3800
Зарегистрирован: 14 июн 2014 02:00
Контактная информация:

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение brahistochron » 28 окт 2015 01:56

Теплов 2-й писал(а):
brahistochron писал(а):Сводить разум к сво6оде воли, это конечно изврат. Сво6одой воли о6ладают даже комары.
Это в каком месте они ей обладают? Автоматы на "инстинктах".
Сво6ода воли, это произвол, а произвол штука очень низкоуровневая, и _иррациональная_. ;)

ЗЫ
Тему нужно в курилку. Или куда-то туда.

Теплов 2-й
Сообщения: 15012
Зарегистрирован: 13 мар 2015 20:44

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение Теплов 2-й » 28 окт 2015 01:57

laomaozi писал(а):да, согласен, но у собак есть встроенный механизм распознавания собственного блага, как он может _самозародиться_ у ИИ? Версия Монстера -- никак, только через внешнего настройщика. Хотя я, опять-таки, не понимаю, как это самое благо для себя ИИшное может быть вне прописанных критериев, как оно может самоэволюционировать.
Ну можно сказать что есть у собак разум - но очень маленький еще - хватает на несколько десятков секунд "предвидения".

Опять же на рыбах в рамках программы иллюстрируют некий качественный скачок. Одна порода - не помню уже какая - если ее приучить огибать преграду (экран) к пище - при убирании экрана только после многих повторений начинает двигаться к пище по прямой, постепенно сглаживая траекторию по которой огибала барьер - а другой вид - сделавший уже качественный скачок - меняет траекторию сразу.
Т.е. зарождение "разума" штука очень постепенная - и обращаясь к примеру с собаками - у них он еще очень небольшой. Но они не точно не "автоматы", на одних только инстинктах.

Аватара пользователя
brahistochron
Сообщения: 3800
Зарегистрирован: 14 июн 2014 02:00
Контактная информация:

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение brahistochron » 28 окт 2015 01:57

laomaozi писал(а):подстройка сама по себе, кстате, ничего не дает, это просто продвинутый вариант "окей, гугл.."
А реальный "интеллект", он где-то такой и есть. ;)

laomaozi
Сообщения: 17370
Зарегистрирован: 31 мар 2011 19:03

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение laomaozi » 28 окт 2015 02:02

окей, Василиском был выше заявлен вполне конкретный "страх" (в терминах старого ФИГШа) о самовозникновении у ИИ субъектности, которая может привести к тому или иному роду конфликтов с субъектностью хомо сапиенс сапиенс. Разумный адаптивный арифмометр, способный создавать даже что-либо, не заложенное в его ПО, очевидно не совсем этот вариант.
Собственно, я не могу себе представить, как бы это могло быть, может кто-то объяснит.

Теплов 2-й
Сообщения: 15012
Зарегистрирован: 13 мар 2015 20:44

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение Теплов 2-й » 28 окт 2015 02:03

laomaozi писал(а):окей, Василиском был выше заявлен вполне конкретный "страх" (в терминах старого ФИГШа) о возникновении у ИИ субъектности, которая может привести к тому или иному роду конфликтов с субъектностью хомо сапиенс сапиенс. Разумный адаптивный арифмометр, способный создавать даже что-либо, не заложенное в его ПО, очевидно не совсем этот вариант.
ИИ - что очевидно из аналогии с человеком - должен быть способен себя перепрограммировать, из внутренних мотивов.

laomaozi
Сообщения: 17370
Зарегистрирован: 31 мар 2011 19:03

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение laomaozi » 28 окт 2015 02:04

Теплов 2-й писал(а):
laomaozi писал(а):окей, Василиском был выше заявлен вполне конкретный "страх" (в терминах старого ФИГШа) о возникновении у ИИ субъектности, которая может привести к тому или иному роду конфликтов с субъектностью хомо сапиенс сапиенс. Разумный адаптивный арифмометр, способный создавать даже что-либо, не заложенное в его ПО, очевидно не совсем этот вариант.
ИИ - что очевидно из аналогии с человеком - должен быть способен себя перепрограммировать.
зачем? для каких целей? по каким критериям?

Теплов 2-й
Сообщения: 15012
Зарегистрирован: 13 мар 2015 20:44

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение Теплов 2-й » 28 окт 2015 02:06

laomaozi писал(а): зачем? для каких целей? по каким критериям?
Из внутренних побуждений. Из собственных целей. По крайне мере какой-то уровень побуждений и целей - скажем операционный/тактический.
Критерии - на мой взгляд - несут чисто техническую функцию, если они отрефлексированы.

Аватара пользователя
brahistochron
Сообщения: 3800
Зарегистрирован: 14 июн 2014 02:00
Контактная информация:

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение brahistochron » 28 окт 2015 02:11

ИИ 6удет спосо6ен се6я перепрограммировать только в рамках, отведенных ему программистом. ИИ вполне может уничтожить человечество, вот только для этого ему нужно встроить соответствующие функции, дать руки, и вложить в них оружие. В отсутствие этого ИИ просто _технически_ неспосо6ен как-то навредить. Как может навредить миксер? Да вот даже если очень-очень захочет?

Воо6ще говоря, страх перед ИИ вполне о6основан, но это конечно не ужастики по мотивам "Терминатора", а возможность вы6росить человечество в закритическое состояние, ИИ может принести катастрофу, которую невозможно предсказать, и последствия которой 6удет невозможно устранить. Есть вещи, которые делать категорически нельзя, и это может 6ыть вещь именно такого рода. ИИ может оказаться "шкатулкой Пандоры".

Теплов 2-й
Сообщения: 15012
Зарегистрирован: 13 мар 2015 20:44

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение Теплов 2-й » 28 окт 2015 02:17

Если ИИ способен перепрограммировать себя, способен произвольно сформировать содержание новой программы, имеет коммуникацию с программистом - следовательно он имеет возможность для "интриги" - обмануть или даже перепрограммировать программиста.
Т.е. вопрос о инструментах глубоко вторичен. :V:

ЮС4ДЕ
Сообщения: 3855
Зарегистрирован: 12 апр 2010 19:23

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение ЮС4ДЕ » 28 окт 2015 02:18

а цели ему задаются извне
да и человеку тоже весьма и весьма часто :)

Теплов 2-й
Сообщения: 15012
Зарегистрирован: 13 мар 2015 20:44

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение Теплов 2-й » 28 окт 2015 02:21

Michael Ermak писал(а):а цели ему задаются извне
да и человеку тоже весьма и весьма часто :)
Это вторично.
Человек хотя бы в потенциале способен от внешнего целеполагания избавиться.
Если ИИ будет "разумен" - по условию - то он способен к самоперепрограммированию - в том числе к избавлению от внешнего целеполагания, хотя бы потенциально.

Аватара пользователя
brahistochron
Сообщения: 3800
Зарегистрирован: 14 июн 2014 02:00
Контактная информация:

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение brahistochron » 28 окт 2015 02:23

Программист _не_может_ создать вещь 6олее умную, чем он сам. Это первое. Второе, это то, что у ИИ 6удет остутствовать какой-ли6о мотив к конфликту с юзером. Ну третье, это то, что власть является аттри6утом _живых_ существ, и наделить ей железяку, мягко говоря, непросто.

Железному ящику просто _пофиг_. Можно конечно встроить туда какие-то желания, но это _труд_.

laomaozi
Сообщения: 17370
Зарегистрирован: 31 мар 2011 19:03

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение laomaozi » 28 окт 2015 02:48

Теплов 2-й писал(а):
laomaozi писал(а): зачем? для каких целей? по каким критериям?
Из внутренних побуждений. Из собственных целей. По крайне мере какой-то уровень побуждений и целей - скажем операционный/тактический.
Критерии - на мой взгляд - несут чисто техническую функцию, если они отрефлексированы.
так в какой момент появляется что-то, что может рефлексировать и иметь собственные побуждения?

Теплов 2-й
Сообщения: 15012
Зарегистрирован: 13 мар 2015 20:44

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение Теплов 2-й » 28 окт 2015 02:54

laomaozi писал(а): так в какой момент появляется что-то, что может рефлексировать и иметь собственные побуждения?
У высших приматов рефлексия уже замечена.
По другим высшим млекопитающим и по дельфинам/касаткам данных - по понятным причинам - нет.

Аватара пользователя
al_mt
Сообщения: 11327
Зарегистрирован: 19 апр 2010 10:30
Откуда: Таганрог

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение al_mt » 28 окт 2015 10:07

А что такое "свобода воли"? :D

P.S. У меня есть мысль, но хотелось бы сначала начальника транспортного цеха...
- Суперинтендант, у Вас есть список всех Тайных Обществ?
- Конечно...

laomaozi
Сообщения: 17370
Зарегистрирован: 31 мар 2011 19:03

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение laomaozi » 28 окт 2015 12:52

свобода воли -- имелось в виду возможность проявлять субъектность.

Аватара пользователя
al_mt
Сообщения: 11327
Зарегистрирован: 19 апр 2010 10:30
Откуда: Таганрог

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение al_mt » 28 окт 2015 13:03

А что есть "субъектность"? :D
- Суперинтендант, у Вас есть список всех Тайных Обществ?
- Конечно...

laomaozi
Сообщения: 17370
Зарегистрирован: 31 мар 2011 19:03

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение laomaozi » 28 окт 2015 13:19

[лат. subjectum — подлежащее] — свойство индивида быть субъектом активности. Применительно к человеку, "быть субъектом" — значит быть носителем идеи Я, а это, в свою очередь, означает, что человек мыслит, воспринимает, переживает и осуществляет себя в качестве причины себя самого, то есть обнаруживает себя как causa sui.
пусть пока такое определение будет.

Аватара пользователя
al_mt
Сообщения: 11327
Зарегистрирован: 19 апр 2010 10:30
Откуда: Таганрог

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение al_mt » 28 окт 2015 13:35

А в применении к технологическому объекту? :D

Книга является носителем идеи?
А магнитофон с речами Владимира Ильича?
А если я настрою генератор случайных текстов на генерацию политической речи, прогоню через синтезатор речи и поставлю на трибуну?
- Суперинтендант, у Вас есть список всех Тайных Обществ?
- Конечно...

vasilisk
Сообщения: 5511
Зарегистрирован: 11 апр 2010 13:18

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение vasilisk » 28 окт 2015 13:37

А как вообще человек определяет, что его окружают именно субьекты, а не очень хитро сделанные объекты? Как вы определяете, что кто-то из форумчан не продвинутый бот? Пока что есть только критерий Тьюринга, но ведь он чисто субьективный.
"Наша сила не в оружии, а в людях"(с)Ку-Клукс-Клан

laomaozi
Сообщения: 17370
Зарегистрирован: 31 мар 2011 19:03

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение laomaozi » 28 окт 2015 13:39

2 Al_mt
не внимательно читаете, книга не является носителем идеи Я, ну и все примеры, соответственно, не в кассу. Идеей Я обладает ИИ в примере Василиска, но я совершенно не понимаю, в какой момент оно у железяки может 1. самовозникнуть. 2.не совсем понимаю, может ли оно возникнуть даже с внешней помощью.

laomaozi
Сообщения: 17370
Зарегистрирован: 31 мар 2011 19:03

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение laomaozi » 28 окт 2015 13:42

vasilisk писал(а):А как вообще человек определяет, что его окружают именно субьекты, а не очень хитро сделанные объекты? Как вы определяете, что кто-то из форумчан не продвинутый бот? Пока что есть только критерий Тьюринга, но ведь он чисто субьективный.
(здесь была несмищная шутка)
никак, ессно, просто в моей КМ это крайне (исчезающе) маловероятно, поскольку я не вижу рациональных причин для того, чтоб это было возможно в принципе.

Ответить

Вернуться в «Золотая рыбка»