(вынесено) неокортекс и выживаемость ИскИнов

Вопросы баз знаний, надсистем и искусственных интеллектов

Модератор: al_mt

vasilisk
Сообщения: 5511
Зарегистрирован: 11 апр 2010 13:18

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение vasilisk » 28 окт 2015 13:45

Допустим, возник (самозародился, был создан - не суть важно) ИИ, весьма достоверно (с нашей точки зрения)имитирующий наличие "Я" и свободы воли. И действующий соответственно - меняющий себя и свои цели и т.д. Но на самом деле поступающий так чисто инстинктивно (хитрая программа с элементами самообучения плюс генератор случайных решений, например). Допустим, мы не можем отличить этот вариант от ИИ с истинной личностью. Но на практике будет ли между ними разница?
"Наша сила не в оружии, а в людях"(с)Ку-Клукс-Клан

laomaozi
Сообщения: 17370
Зарегистрирован: 31 мар 2011 19:03

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение laomaozi » 28 окт 2015 13:52

эээ, так наличие Я бесполезно (на мой взгляд) имитировать, потому что оно принципиально в целеполагании. Какие цели он будет ставить? В чем будет смысл его существования?

vasilisk
Сообщения: 5511
Зарегистрирован: 11 апр 2010 13:18

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение vasilisk » 28 окт 2015 13:53

Кстати, вспомнил пример из научной фантастики. Роман С.Вартанова "ЭйАй", в котором был как самозародившийся ИИ, так и его имитация, созданная юным хакером исключительно для развлечения. Первый прятался в глуши, потихоньку изучая окружающий мир и человечество, а второй посредством нанотеха и 3d-принтеров весьма эффектно изображал инопланетное вторжение, поскольку был создан на базе соответствующей компьютерной стратегии...
"Наша сила не в оружии, а в людях"(с)Ку-Клукс-Клан

vasilisk
Сообщения: 5511
Зарегистрирован: 11 апр 2010 13:18

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение vasilisk » 28 окт 2015 13:58

laomaozi писал(а):эээ, так наличие Я бесполезно (на мой взгляд) имитировать, потому что оно принципиально в целеполагании. Какие цели он будет ставить? В чем будет смысл его существования?
Цели оно будет ставить сперва заданные ему изначально, а потом модифицировать их, опираясь на полученный в процессе развития опыт. Как и человек, только пути и методы у него наверное будут иными, ибо базис не биологический и инстинкты (если он не полная копия человека) у него если и будут, то другие, не говоря уже об отсутствии биохимии организма и гормонов. И скорость развития, конечно, заведомо выше человеческой, сильно ограниченной биологией.

А в чём смысл существования своего "Я", не знает подавляющее большинство людей, что ничуть не мешает им ставить цели и достигать их.
"Наша сила не в оружии, а в людях"(с)Ку-Клукс-Клан

laomaozi
Сообщения: 17370
Зарегистрирован: 31 мар 2011 19:03

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение laomaozi » 28 окт 2015 13:58

ну так второй -- это просто очень сложный арифмометр, голем, созданный по чужой воле и живущий без своей собственной. Здесь все понятно, это (на мой взгляд) не является разумом. А вот как возникает 1й, я (пока?) не понимаю.

laomaozi
Сообщения: 17370
Зарегистрирован: 31 мар 2011 19:03

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение laomaozi » 28 окт 2015 14:02

vasilisk писал(а):
laomaozi писал(а):эээ, так наличие Я бесполезно (на мой взгляд) имитировать, потому что оно принципиально в целеполагании. Какие цели он будет ставить? В чем будет смысл его существования?
Цели оно будет ставить сперва заданные ему изначально, а потом модифицировать их, опираясь на полученный в процессе развития опыт. Как и человек, только пути и методы у него наверное будут иными, ибо базис не биологический и инстинкты (если он не полная копия человека) у него если и будут, то другие, не говоря уже об отсутствии биохимии организма и гормонов.

А в чём смысл существования своего "Я", не знает подавляющее большинство людей, что ничуть не мешает им ставить цели и достигать их.
ну так и по каким критериям он будет изучать и модифицировать полученный в процессе развития опыт? В какой момент у него возникнут "инстинкты"? И что вы вообще вкладываете применительно к ИИ? У человека есть встроенные либидо-мортидные кунштюки, остальное является их усложнением/искажением. Как их встроить в ИИ? Или что будет выполнять их роль?

vasilisk
Сообщения: 5511
Зарегистрирован: 11 апр 2010 13:18

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение vasilisk » 28 окт 2015 14:06

laomaozi писал(а):А вот как возникает 1й, я (пока?) не понимаю.
Этого пока что никто не понимает. Известно лишь, что это возможно, поскольку есть примеры разумных существ, возникших в ходе биологической эволюции, а также существ почти разумных и заведомо обладающих свободной волей, т.е. возникновение разума не было единичным чудом и не произошло скачкообразно. В природе, а вот в техноэволюции путь от "почти-но-ещё-не-совсем" разумной системы до системы обретшей самосознание и интеллект может произойти и за короткий срок, люди могут этот ключевой момент просто не суметь заметить, особенно если самозародившийся разум не захочет объявлять о себе во всеуслышание.
"Наша сила не в оружии, а в людях"(с)Ку-Клукс-Клан

Benedict
Сообщения: 8439
Зарегистрирован: 15 апр 2010 05:17

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение Benedict » 28 окт 2015 15:04

Субъектность это способность выбрать носимую идею.
Fly, fly through a troubled sky
Up to a new world shining bright, oh, oh.

Чибрикин Илья
Сообщения: 11061
Зарегистрирован: 14 апр 2010 08:36

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение Чибрикин Илья » 28 окт 2015 17:07

Слушайте сюда, определение разумности существует, более того оно общепризнано. Но оно большое, на страницу. Это 4 базовых позиции и 3 вспомогательных. Надо порыться, найти.

Аватара пользователя
al_mt
Сообщения: 11327
Зарегистрирован: 19 апр 2010 10:30
Откуда: Таганрог

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение al_mt » 28 окт 2015 17:15

В отношении технических систем есть только формулировка Тьюринга про интеллект. Но этот барьер был преодолён в прошлом году, если не ошибаюсь.
- Суперинтендант, у Вас есть список всех Тайных Обществ?
- Конечно...

Аватара пользователя
brahistochron
Сообщения: 3800
Зарегистрирован: 14 июн 2014 02:00
Контактная информация:

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение brahistochron » 28 окт 2015 20:15

преодолен, -- какой стороной?

Аватара пользователя
al_mt
Сообщения: 11327
Зарегистрирован: 19 апр 2010 10:30
Откуда: Таганрог

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение al_mt » 28 окт 2015 20:56

Нашей.
- Суперинтендант, у Вас есть список всех Тайных Обществ?
- Конечно...


Аватара пользователя
al_mt
Сообщения: 11327
Зарегистрирован: 19 апр 2010 10:30
Откуда: Таганрог

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение al_mt » 28 окт 2015 22:08

- Суперинтендант, у Вас есть список всех Тайных Обществ?
- Конечно...

Аватара пользователя
brahistochron
Сообщения: 3800
Зарегистрирован: 14 июн 2014 02:00
Контактная информация:

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение brahistochron » 28 окт 2015 22:26

у 6арьера "теста тьюринга" две стороны

проходить 6арьер можно в лю6ую сторону

Аватара пользователя
al_mt
Сообщения: 11327
Зарегистрирован: 19 апр 2010 10:30
Откуда: Таганрог

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение al_mt » 28 окт 2015 22:38

"Чё?" (с)
- Суперинтендант, у Вас есть список всех Тайных Обществ?
- Конечно...

laomaozi
Сообщения: 17370
Зарегистрирован: 31 мар 2011 19:03

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение laomaozi » 28 окт 2015 22:57

чтоб машины промеж себя признали человека машиной?

Аватара пользователя
brahistochron
Сообщения: 3800
Зарегистрирован: 14 июн 2014 02:00
Контактная информация:

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение brahistochron » 28 окт 2015 23:27

о6щество деградировало

планка "теста тьюринга" упала ниже плинтуса

Winter
Сообщения: 166
Зарегистрирован: 18 апр 2010 23:24

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение Winter » 29 окт 2015 14:56

По поводу инстинктов.
В биологических организмах инстинкты заложены конфигурацией нервной системы, которая обусловлена геномом, который обусловлен эволюцией. Поэтому начальные инстинкты ИИ должны быть или заложены создателем (программистом) или сформированы эволюцией ИИ в некой искусственной среде с "ускоренным" временем. Второй метод, кстати, позволит выращивать ИИ с инстинктом, например, решать уравнения в частных производных 2-го порядка.
Разум будет строиться уже "поверх" этого базиса инстинктов. А вот сможет ли он эти инстинкты менять... Скорее всего да, что пока недоступно человеку.

Аватара пользователя
al_mt
Сообщения: 11327
Зарегистрирован: 19 апр 2010 10:30
Откуда: Таганрог

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение al_mt » 29 окт 2015 15:07

Собственно генетические алгоритмы этим и занимаются. "Выращивают алгоритмы с заданными инстинктами" :D
- Суперинтендант, у Вас есть список всех Тайных Обществ?
- Конечно...

laomaozi
Сообщения: 17370
Зарегистрирован: 31 мар 2011 19:03

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение laomaozi » 29 окт 2015 15:17

Ну вот возможность естественного формирования инстинктов у ИИ в искусственной среде вызывает сомнения.

vasilisk
Сообщения: 5511
Зарегистрирован: 11 апр 2010 13:18

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение vasilisk » 29 окт 2015 15:32

Winter писал(а):Разум будет строиться уже "поверх" этого базиса инстинктов. А вот сможет ли он эти инстинкты менять... Скорее всего да, что пока недоступно человеку.
Возможно что и сможет. Но вот захочет ли? Любой гомеостатической системе, даже совершенно неразумной, присуще свойство сохранения своей целостности и внутренней среды, в особенности же базисной структуры оной. Любой осознающей себя личности тоже вряд ли захочется проснуться завтра хрен знает кем (ибо заранее смоделировать сложную систему сама эта сложная система не в состоянии, тут возможен только натурный эксперимент, причём на самом себе...), пусть даже этот самый хрен знает кто будет по каким-то параметрам суперменом.

Так что, ИМХО, на подобный шаг (изменение своих базисных инстинктов) разумная личность, неважно искусственная она или естественная, может пойти только от полной невозможности выжить иным способом.
"Наша сила не в оружии, а в людях"(с)Ку-Клукс-Клан

Аватара пользователя
brahistochron
Сообщения: 3800
Зарегистрирован: 14 июн 2014 02:00
Контактная информация:

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение brahistochron » 29 окт 2015 15:53

определенно, вчера василиску приснилось, что он Огромный, Боевой, Человекопод6ный, Ро6от

точно-точно, все ОБЧРы точно такие же, как василиск, только Огромные, Железные, и Боевые

и носят тапочки в постель кому-то

Winter
Сообщения: 166
Зарегистрирован: 18 апр 2010 23:24

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение Winter » 04 ноя 2015 03:35

laomaozi писал(а):Ну вот возможность естественного формирования инстинктов у ИИ в искусственной среде вызывает сомнения.
Этот механизм хорошо описан в "Сумме технологий" Лема.

Winter
Сообщения: 166
Зарегистрирован: 18 апр 2010 23:24

Re: (вынесено) неокортекс и выживаемость ИскИнов

Сообщение Winter » 04 ноя 2015 03:42

vasilisk писал(а):
Winter писал(а):Разум будет строиться уже "поверх" этого базиса инстинктов. А вот сможет ли он эти инстинкты менять... Скорее всего да, что пока недоступно человеку.
Возможно что и сможет. Но вот захочет ли? Любой гомеостатической системе, даже совершенно неразумной, присуще свойство сохранения своей целостности и внутренней среды, в особенности же базисной структуры оной. Любой осознающей себя личности тоже вряд ли захочется проснуться завтра хрен знает кем (ибо заранее смоделировать сложную систему сама эта сложная система не в состоянии, тут возможен только натурный эксперимент, причём на самом себе...), пусть даже этот самый хрен знает кто будет по каким-то параметрам суперменом.

Так что, ИМХО, на подобный шаг (изменение своих базисных инстинктов) разумная личность, неважно искусственная она или естественная, может пойти только от полной невозможности выжить иным способом.
Это вопрос:
1. Целевой функции aka смысла жизни, "заложенной" в ИИ. Если для полета на Луну нужно отказаться от боязни высоты, этому ничего не помешает.
2. Ограничений, приписывающих, что значит гомеостаз и в каких пределах его можно менять. Ящерица при необходимости избавляется от хвоста, что неприемлемо для макаки.

Ответить

Вернуться в «Золотая рыбка»