?

Log in

No account? Create an account
Предыдущий пост Поделиться Следующий пост
Пугало искусственного интеллекта
sceptic
slobin

В последнее время стало модно боятся грядущего искусственного интеллекта: дескать, захватит власть, убьёт всех человеков, всё такое. А вот жители Волшебной страны разумно рассудили, что власть ему нужно отдать самим, и чем раньше, тем лучше:

Подумайте и о том, как удобен такой правитель: он не ест, не пьёт и, значит, не будет обременять нас налогами. И если он пострадает в битве с врагами, мы сможем починить его: у нас уже есть опыт.

pugalo

(по мотивам разговора с vitus_wagner)

... Полставки верховного главнокомандующего ...

Метки:

  • 1
Меня пугает как раз то, что создавать его будут люди, со своими собственными интересами, но без допуска от психиатра.

Авторы компьтерных игр, НЕНАВИДЯЩИЕ игроков, и тратящие кучу времени на создание откровенного западла, по 4-10 раз продублированного и тщательно запрятанного в коде, с вполне откровенными высказываниями про "пусть виснет", "пусть вылетает", "пусть будет не проходимо" и т.д., "потому что эти мрази (игроки) должны страдать!" - не новость.

Впрочем, всяких и разных мастеров в тех же РИ ты, полагаю, тоже насмотрелся.

А по-моему, эти люди большую пользу игрокам приносят. Если игры виснут и вылетают, у человека больше шансов пойти в спортзал, заняться самообразованием и т.д.

По сути это как произвоство невкусных наркотиков. Нужно спасибо говорить таким разработчиком. Если, конечно, уметь считать на один ход вперед. А вы, Денис, ведь умеете. :)

А если посмотреть не на один ход, а на 2 ?

P.S. И, кстати, идея "спасти человечество от {}" - тоже неплохой мотив/оправдание для чего угодно.

Edited at 2018-11-20 17:37 (UTC)

«спасти человечество от {}»

Теперь я догадываюсь, чем руководствовался создатель Python.

Захватит власть? Как будто власть принадлежит тем, кто ведет такие разговоры. Это как беседы холопов о том, какой барин лучше что ли? :)

Так это вариация на тему наш дракон защищает нас от других драконов.

На словах "мы сможем починить" неловко отвела глаза, как от человека, который не заметил, что надел заблёванный галстук.

J.F.Gariepy "The Revolutionary Phenotype"
this is the exhaustive explanation of your mistake.
i have nothing to add to that.

Э, стоп. «Сможем починить» — это было про другого киборга! Интеллект у которого был вполне естественный.

Edited at 2018-11-21 05:52 (UTC)

Да, я помню. В современной терминологии -- не AI, а upload. И там в какой-то из последующих книг подданные того и другого по-дружески спорили, чей правитель обходится дешевле. Но я решил пожертвовать точностью деталей ради компактной цитаты. :-)

... Но вообще что-то героическое в этом есть ...


в книжке Life 3.0 обсуждается несколько таких моментов: если будет AGI то он обязательно вырвется на свободу потому что мы не сможем его удержать.
Варианты далее:
1) AI уничтожит человечество "походя" например выполняя задачу по производству как можно больше скрепок переработает землю (даже необязательно AGI)
2) Benevolent dictrator - поделит "землю" на зоны и обеспечит полный социализм ( моя трактовка)
3) Из "сыновий чувств" оставит жить человеков, но сократит населении и люди будут жить как обезьяны в зоопарке.

Ваш страшила похоже смотритель такого зоопарка.

Это же сказка. В мультиках про разумные машинки людей тоже не заботит присутствие рядом монстров весом в тонну, которые могут размазать двуногого по стенке. И прецедентов тоже нет. Хотя, если оторваться от воздушных замков, то должны быть, и в количестве.

В мультиках?! Да людей это В РЕАЛЬНОСТИ не заботит! Полвека живу, всё никак привыкнуть не могу. К тому же в реальности они ещё и не разумные, а это ещё хуже. Ну и (полуразумных) лошадей туда же.

... A good tart is far more admirable than a decayed intellect ...


Заботит. У всего мира сейчас подгорает по поводу "вот скоро сделаем авто без водителя, а они будут давить не толстяка, но трёх котяток".

http://moralmachine.mit.edu/hl/ru

Я немного не об этом. Я строго об этом: "присутствие рядом монстров весом в тонну, которые могут размазать двуногого по стенке". Вот ровно то, что описано в этой фразе, не больше, не меньше. Я однажды, чтобы сублимировать это своё офигение, написал рассказ придумал альтернативку, где не принято изолировать высоковольтные провода.

Ну типа все люди с детства знают, что высоковольтные провода трогать нельзя ("а у вас что, этому не учат?!"), а то, что на кухне (и вообще где угодно) оголённый провод в полуметре от тебя проходит -- это нормально, ты же не дура, чтобы протягивать руку на эти полметра?

Вот я от нашей текущей реальности испытываю примерно такие же ощущения. Выходить на улицу, где есть автомобили? Где они не отделены от пешеходов тяжёлыми бетонными заборами? Нет, не только на скоростных трассах, везде? Как вы здесь вообще живёте?

... Компьютер - это, товарищи, электроприбор ...


  • 1