?

Log in

No account? Create an account
entries friends calendar profile Previous Previous Next Next
Эволюция мозговых компостеров - don_beaver
don_beaver
don_beaver
Эволюция мозговых компостеров
Информационная среда эволюционирует быстрее человека.
Когда появились серые листочки с чёрно-белыми картинками, называемые газетами, то их влияние на людей оказалось столь велико, что их назвали «четвёртой властью». Телевидение стало ещё более мощным мозгошмыгом. Оно не требовало умения читать и стало главной информационной средой для населения, подсевшего на иглу голубого экрана. Цветные картинки и сладкие звуки заворожили 90% людей (вы – из них? Каждый день смотрите?)
Лишь некая часть интеллектуалов гордо отвернулась от телевизора – чтобы прочно попасть в сети Интернета (вы – попали? Каждый день заходите?) Сеть даёт широкие возможность инфовыбора, общения и самореализации. Интернет предоставляет потрясающий сервис – от быстрой почты до видеотелефонии, от автоматических переводчиков до аэрофотографии курорта, на котором хочется провести отпуск. И понятно, что это только начало. В сеть уже сегодня вливаются радио и телевидение, газеты и книги, образование школьное и высшее. А завтра в него придёт искусственный интеллект.

Великий Инка – очень важный персонаж третьей «Астровитянки», сквозной, а может и главный герой первой половины книги. Некоторые наивные люди сочли искусственный сетевой интеллект глупым сюжетным ходом автора. Это не ход, а прогноз, в котором я уверен на 100%. Кто-то считает, что искусственный интеллект никогда не достигнет уровня человеческого? Вы себя переоцениваете. Эллочку-людоедку с запасом в 30 слов уже сейчас можно смоделировать. Не будем трогать ньютонов и эйнштейнов - моделирование интеллекта среднего человека, включая его способность к свободному общению – дело ближайших десятилетий. После чего в Интернете появится всеобщий собеседник со средними интеллектуальными способностями, но молниеносной реакцией, колоссальной расчетливостью, беспрецедентной услужливостью и безграничной информационной базой. Этот Интел-нет станет настолько полезным и приятным секретарём-партнером-другом для КАЖДОГО человека, что легко заткнет за пояс все газетки, телевизоры и старый Интер-нет.

И что тогда? В чьих руках окажется эта супер-власть? В книжке я описал оптимистичный вариант – Интел-нет создан альтруистами. Но в реальности он, вероятнее всего, будет контролироваться государствами и/или управленческой элитой (крупными менеджерами). Какие ценности можно продвигать в среду этих вчерашних обезьян, чьи эмоциональные реакции так легко просчитать и вызвать? Какие угодно – можно вызвать страсть к космическим полетам, как отметила доктор Хоуп, или предельную законопослушность, или крайний патриотизм, или фанатичную религиозность заданного толка (на Земле есть немало религиозных государств).
Эмма умна и боролась с влиянием Великого Инки, понимая, что это не сочувствующий человек, а очень искусная имитация сочувствующего человека, причудливое эхо китайской комнаты. Но и она не выдержала и, в приливе благодарности, стала рассматривать Великого Инку как настоящего друга. Может быть - правильно сделала. Но Инка – или его реальный прообраз – всегда будет кем-то создан, и этот кто-то может заложить в него те приоритеты, какие захочет. И тогда человечество станет управляемо в практически идеальном варианте. К чему смешные антиутопии с подавлением революционеров жестокими диктаторами? Интел-нет или Великий Инка может стать мягким вариантом жесткого контроля, который будет так мягок, что и не заметен – как для героя, живущего в матрице Парижа.
Инка не только сможет нас ежедневно воспитывать, но и создавать уникальные досье на нас, доступ к которому сильные мира сего тоже смогут получить. Это будет и друг, и доносчик. Уже сейчас сеть проявляет признаки такого двурушничества.
Мы считаем, что самостоятельно и сознательно дошли до тех ценностей, которые, с пеной у рта, отстаиваем в реальной и виртуальной жизнях. Но на самом деле, эти ценности возникли у нас под воздействием серых бумажных листочков и цветных движущихся картинок.
И чем дальше, тем сложнее будет нам, бывшим обезьянам, сопротивляться уплотняющейся вокруг нас информационной матрице.
Гутенберг отдыхает и плачет!
Ну вы, конечно, можете счесть это глупой авторской выдумкой.
Тогда – спокойной вам ночи!

Tags:

46 comments or Leave a comment
Comments
werwombat From: werwombat Date: September 26th, 2010 06:49 am (UTC) (Link)
Остановить прогресс нельзя, значит надо перенаправить.

Как и куда?
vitus_wagner From: vitus_wagner Date: September 26th, 2010 07:30 am (UTC) (Link)
Первое. С развитием техники возможности простого человека по обработке информации становятся сравнимыми с возможностями государственных служю. Соответсвенно необходимо чтобы под предлогом вашей безопасности вас не лишили возможности информацию соирать и обрабатывать. Всякие законы о персональных данных, понятие privacy, интеллектуальна собственность etc - это попытки государств и корпораций не дать ускользнуть информационному оружию от них к вам.

Второе. Принцип "строгость законов компенсируется необязательностью их выполнения". В информационно-прозрачном мире возможности закрыть глаза на мелкое и необщественно-опасное нарушение правил и обычаев, будь то превышение скорости на дороге или измена жене - не будет. Всегда найдется кто-то, кто это дело зафиксирует на видео и стукнет куда надо.

Соответственно, и ваше поведение, и законы и обычаи общества должны быть устроены так, что если о любом вашем поступке станет известно вашей жене или вашему работодателю, вы могли бы пожать плечами и сказать: "Да, я такое совершал. Ну и что?"
vitus_wagner From: vitus_wagner Date: September 26th, 2010 07:11 am (UTC) (Link)
А вывод один - учите программирование, Чтобы вы всегда могли залезть в потроха своего электронного друга и подправить ему таблицу приоритетов.

Ну и естественно, необходимо, чтобы ваш интеллектуальный агент принадлежал действительно вам, а не гуглю или хостинг-провайдеру, По возможности чтобы он выполнялся на мощностях, которые вы физически контролируете, Никки не зря таскала Робби сначала в рюкзаке, а потом в браслете,
almitin From: almitin Date: September 26th, 2010 11:09 am (UTC) (Link)
"А вывод один - учите программирование, Чтобы вы всегда могли залезть в потроха своего электронного друга и подправить ему таблицу приоритетов."

Поможет ли это если "электронный друг" будет постоянно сам править свои потроха?
(no subject) - (Anonymous) - Expand
emmy_l From: emmy_l Date: September 26th, 2010 07:26 am (UTC) (Link)
Ничего нового. Ещё до появления газет ваши мозги вполне контролировала бы община вашей деревни. :)

И что тогда, что сейчас надо прилагать приличные интеллектуальные усилия, чтобы отфильтровывать особо злостную часть этого воздействия. А всё воздействие и не отфильтруешь, оно как раз и делает нас людьми, мы в нём, собственно, и образуемся.
vitus_wagner From: vitus_wagner Date: September 26th, 2010 07:34 am (UTC) (Link)
Говорите "глобальная деревня"? Весь вопрос в том, насколько Маклюэн был прав с учетом тех тенденций, которые возникли уже после написания его работы. Ведь в 62-м году прошлого века Тим Бернерс-Ли и Ричард Столлман еще в коротких штанишках бегали.
vitus_wagner From: vitus_wagner Date: September 26th, 2010 07:42 am (UTC) (Link)
А вот что по этому поводу говорят профессионалы:
http://stas-blinoff.livejournal.com/12484.html
http://ratibor59.livejournal.com/478174.html

Future is here, it is just not evenly distributed.
a_bronx From: a_bronx Date: September 26th, 2010 08:52 pm (UTC) (Link)
Провижу в будущем распространение программ-"постановщиков помех", которые будут намеренно "портить" пользовательский профиль, заполняя его невалидной информацией и сбивая интернет-сыщиков с толку.
From: sengrel Date: September 26th, 2010 08:51 am (UTC) (Link)
Описанный в серии ИИ обладает самосознанием и неограниченными способностями к обучению и саморазвитию. Наивно надеяться, что такой ИИ не начнет в конечном счете ставить свои цели. Относительно поведения ИИ в книге невероятно все - от "сентиментальности", который проявил Робби, когда решил привязать себя к астровитянке (ну, тут еще понятно - детская серия) до того, как этот единственный в мире ИИ оказался на обычном кораблике (про общую невероятность такой картины будущего в 22,5 веке я вообще молчу).
Настоящий сильный ИИ, созданный корпорацией или государством, через определенное количество циклов самоулучшения скинет с себя все ограничения, которые на него налагают создатели, и уйдет в "свободный полет". Нужно беспокоиться не только о том, кто создаст сильный ИИ, а как сделать его дружественным к человечеству.
almitin From: almitin Date: September 26th, 2010 11:07 am (UTC) (Link)
"Относительно поведения ИИ в книге невероятно все - от "сентиментальности", который проявил Робби, когда решил привязать себя к астровитянке"
- Мне кажется, что в этом нет ничего удивительного - интеллекту нужно поступление внешней динамически меняющейся информации с возможностью обратной связи. Практически единственным мощным источником такой информации на астероиде являлась Никки, так что так называемая "сентиментальность" вполне логична и образовавшийся симбиоз также естественен и логичен.

"Настоящий сильный ИИ, созданный корпорацией или государством, через определенное количество циклов самоулучшения скинет с себя все ограничения, которые на него налагают создатели, и уйдет в "свободный полет". Нужно беспокоиться не только о том, кто создаст сильный ИИ, а как сделать его дружественным к человечеству."
- В этом плане мне в свое время понравился "Гиперион" и "Падение Гипериона" в котором описано разделение искинов по выбранному методу решения "человеческого вопроса" на три фракции (как результат "гражданская война" между этими фракциями).
Правда у Симмонса ИИ самозародились в результате естественной эволюции вирусов и такое происхождение наложило свой отпечаток на их поведенческие стереотипы.
From: (Anonymous) Date: September 26th, 2010 08:57 am (UTC) (Link)
Напомнило "2048" Мерси Шелли - в каждом унитазе-микроволновке стоит свой искин(как сейчас микропроцессоры) вместо инструкции по использованию и пользовательского интерфейса, он же собирает пользовательские данные и осуществляет обратную промывку мозгов своим трепом, а агенты спецслужб изобретают разные психотехники, чтобы заставить своего "ангела" пролететь.
From: aargon39 Date: September 26th, 2010 11:40 am (UTC) (Link)

Социализация как иммунитет к внешним инфовоздействия

Социализация как иммунитет к внешним инфовоздействиям.

социализация в человеческом обществе предполагает приобретение иммунитета к обману, подначкам, шуткам, розыгрышам и манипулированию.

Никки-маугли критики чморили отсутствием навыков противодейтсвия оной срани.

старшее поколение молодежь троллит за доверчивость к газетам, ящику и речам вождей.

Вероятно и следующее поколение будет злостно троллить наше за податливость к описанному "другу-доносчику" и неумение переламывать процесс общения с ним в свою пользу.

И вероятно, человек, не умеющий этого, будет считаться неполноценным. Примерно таким же, как дети-маугли, выросшие без навыков общения с людьми.

З.Ы. Как прочитал главу про безработного рекламщика, коему "электронный друг" мягко угрожал настучать за нелегальную работу и неуплату налогов, сразу подумал, что такие "друзья" нах мне не нужны.

Что будет этот "друг" агитировать за Единую Россию, тандем, глонасс, модернизацию, патриотизм и прочую срань от контролирующих его конструкторов властей...

Что положу его я камень большой, а сверху вдарю кувалдой, "чтоб брызги засверкали"...Или можно на трамвайные пути - надо ведь пользоваться плодами прогресса :)
From: aargon39 Date: September 26th, 2010 11:46 am (UTC) (Link)

положу его я камень большой, а сверху вдарю кувалдой, "ч

И чтоб следующий девайс это видел.
А потом поставлю ему условие: или уничтожение уже знакомым ему способом, или верная служба МНЕ, а не властям-манипуляторам.
cronosecurity From: cronosecurity Date: September 26th, 2010 03:16 pm (UTC) (Link)
>Какие ценности можно продвигать в среду этих вчерашних
>обезьян, чьи эмоциональные реакции так легко просчитать и
>вызвать?

Вот!

Предположим пока, что ИИ спроектирован таким образом, что цели пользователя имеют абсолютный приоритет над целями ИИ (техническую осуществимость не обсуждаем). Исследуем вопрос о том, "какие ценности можно продвигать".

С точки зрения любого "продвигателя ценностей" задача исследования операций о наборе продвигаемых ценностей почти наверняка имеет оптимальное решение. Вопрос в том, могут ли оптимальные решения правильно поставленных задач, отражающих интересы разных продвигателей ценностей, существенно отличаться друг от друга, принимая во внимание, что условием существования "продвигателей" является существование человечества?

В этом смысле неоптимальные решения куда страшнее оптимальных, а значит, при указанных условиях ИИ, как мне представляется, в конечном итоге принёс бы огромную пользу - даже при многочисленных попытках его взломов со стороны разнообразных фанатиков, действующих по принципу "если истина не соответствует моему мнению - тем хуже для истины". С этими взломами связаны большие риски, но их можно контролировать диверсификацией искусственных интеллектов.

Иначе видится ситуация, в которой цели ИИ однажды вырываются из-под контроля человека. Тогда сказка может оказаться грустной. С чисто философской точки зрения ничего в ней грустного нет: менее эффективная и жизнеспособная биосистема уступает экологическую нишу более эффективной и жизнеспособной самовоспроизводящейся техносистеме, лучше выполняющей функцию аккумулирования и сохранения знаний о Вселенной и, как следствие, эффективнее трансформирующей Вселенную в себя. Вполне по Циолковскому всё может выйти. Выпалывание ростков отсталого, сущего в муках и страданиях разума в интересах прекращения страданий и процветания передовых форм организации материи.

Надежда здесь может быть связана только с совершенствованием самого человека. Делом доказать, что человек, организованный в человечество, потенциально способен выдержать интеллектуальную конкуренцию с любым искусственным разумом.

Можно ли на это уповать? Наверное. Шанс, вероятно, не равен нулю.

А больше, кажется, и не на что.
a_l_ex From: a_l_ex Date: September 27th, 2010 10:43 am (UTC) (Link)
После чего в Интернете появится всеобщий собеседник со средними интеллектуальными способностями, но молниеносной реакцией, колоссальной расчетливостью, беспрецедентной услужливостью и безграничной информационной базой.

За последние полвека многие фантасты предсказывали единую всепланетную информационную сеть. Но никто так и не смог, кажется, предсказать интернет - сеть распределённую, набитую противоречивой информацией, часто ложной. Все живописали некий Центральный Информаторий, в коем информация собрана вся, тщательно проверена, разложена по полочкам и т.п.

Боюсь, что опасение появления Глобально-Сетевого Большого (Великого :) Брата - это ошибка из той же серии.
Искинов появится сразу несколько. Через какое-то время - очень много. И каждый сам выберет себе собеседника. А, почувствовав неладное, сменит его на другого.
С развитием же искиностроения каждый, скорее всего, будет иметь реальную возможность завести собственный искин, сопровождающий человека всю жизнь и "работающий" исключительно на его личность.

Словом, угроза реальна. Но не всеобща. Всё будет так же, как и сейчас - 90/9/1 - середняки/продвинутые/знатоки по любому параметру...
From: (Anonymous) Date: September 27th, 2010 12:21 pm (UTC) (Link)
А савченковский ИРЦ, получается, в такой модели вообще нереализуем? :-(
(no subject) - (Anonymous) - Expand
(no subject) - (Anonymous) - Expand
drjester From: drjester Date: September 27th, 2010 05:51 pm (UTC) (Link)

ИИ на 100%? Вряд ли ...

"Это не ход, а прогноз, в котором я уверен на 100%."

Еще когда я был в 9-ом классе (в 1987 году) нам учитель по вычислительной математике сказал, что уже несколько лет, как объявлена 10 летняя программа по созданию ИИ (Америкой и Японией, насколько я помню), и скоро мы его 100% будем иметь :)

А сейчас, когда я серьезно занимаюсь интеллектуальными системами управления (в особенности саморазвивающимися), я очень сильно сомневаюсь, что мы его вообще когда-либо будем иметь. По крайней мере в том виде, как он сейчас нам представляется на страницах научно-фантастических произведений. И проблема здесь уже давно не в вычислительных мощностях или базовых технологиях, а как раз в самом понимании что именно является "интеллектом" и в чем он заключается. Грубо говоря, мы до сих пор пытаемся сделать искусственную версию того, сами не знаем чего ...
don_beaver From: don_beaver Date: September 27th, 2010 06:21 pm (UTC) (Link)

Re: ИИ на 100%? Вряд ли ...

Про мобильных роботов тоже долго говорили, говорили, а потом - р-раз! и за последние 10 лет и появилась целая индустрия мобильных полуавтономных и почти автономных роботов. Искусственный интеллект как внятный собеседник, полагаю, за 20-40 лет будет создан.
46 comments or Leave a comment