?

Log in

No account? Create an account

Previous Entry | Next Entry

челоробот

Давно уже говорится об увеличивающемся разрыве между уровнем развития Человека и уровнем технического прогресса.
Чем разрыв больше, тем в большей опасности существование человечества, как вида - ведь буквально эта ситуация описывается выражением «обезьяна с гранатой». В ключе этого следующая новость выглядит совсем не такой безобидной и смешной.

Microsoft отключил свой чат-бот «Tay» за ксенофобские высказывания, сообщает Deutsche Wirtschafts Nachrichten. Эксперимент в Twitter, где программа должна была общаться с живыми людьми, пришлось прервать уже через несколько часов, так как «Tay» стала публиковать оскорбительные твиты, восхваляя Адольфа Гитлера и отрицая Холокост. Сейчас виртуальная собеседница находится на доработке.
Компания Microsoft запустила в Twitter чат-бот под названием «Tay», чтобы тот общался с живыми людьми и обучался, запоминая содержание разговоров, пишет Deutsche Wirtschafts Nachrichten. Словарный запас виртуальной собеседницы с сознанием молодой девушки был рассчитан на интернет-пользователей в возрасте от 18 до 24 лет. Однако спустя несколько часов эксперимент пришлось прервать, так как программа стала публиковать сообщения, в которых восхваляла Адольфа Гитлера, отрицала Холокост и оскорбляла афро-американцев.


И дело тут не в оскорблениях и восхвалениях Гитлера. Дело в том, что человечество может быть уничтожено в ближайшем будущем не астероидом или супервулканом, а именно разрывом между глобальным уровнем влияния технологий, и снижением уровня человеческого развития.
Искусственный интеллект, генная инженерия, вирус Судного дня, виртуальная реальность - вот суперфакторы, угрожающие человечеству.
И смешная болталка-бот, мгновенно ухватывающая обезьяньи ухватки окружающих людей, очень скоро своим компьютерным мозгом дойдет до решения человеческой проблемы в рамках планеты Земля.
И решение это будет не накаленно-античеловеческим, каким оно было в рамках нацистского проекта. Оно будет спокойным и математически выверенным.
Ресурсов на планете становится меньше. Людей - больше. Увеличить количество ресурсов в замкнутой системе невозможно. Значит - нужно сокращать поголовье двуногих.
Ибо двуногие эти смогли создать ИИ, но, в свое время, отказались от штурма Дальнего Космоса.
Теперь же интеллектуальный уровень человечества настолько снизился, что в рамках этой модели никакого штурма Дальнего Космоса нет и не может быть.
Значит, надеяться на расширение ресурсной базы нельзя. Круг замкнулся.
Разорвать его можно, лишь максимально сократив человечество, и сохранив, таким образом, ресурсы планеты.
Вот вам и бином Ньютона.

Кстати, одновременно с этой новостью попалась на глаза и другая:
Написанный искусственным интеллектом научно-фантастический роман успешно прошел отбор на литературном конкурсе в Токио.

Ранее человечество спокойно посиживало на попе, насмешливо подтрунивая над компьютерными железными мозгами, мол, понятное дело, вычисления - это дело тупого железа. А вот мы, человеки, написали «Я помню чудное мгновенье» - и все железо, посрамленное красотой и метафоричностью нашего внутреннего устройства, грустно ржавеет в углу.
Все меняется. Человечество уже почти не может создать «Войну и Мир», а компьютер - уже почти может. Как только человек свалится ниже этого барьера, а компьютер поднимется выше - тут-то и придет полный кирдык двуногим.


Comments

( 24 comments — Leave a comment )
olom1980
Mar. 31st, 2016 09:25 am (UTC)
ужас. Надо как-то восходить человеку-то, иначе действительно, как говорит автор "кердык" будет.
subbotin_alex
Mar. 31st, 2016 09:26 am (UTC)
У компьютера нет самосознания и свободы воли, по - этому разговоры о том, что он может составить конкуренцию человеку, смешны и нелепы!
spyglass1
Mar. 31st, 2016 09:32 am (UTC)
У падающей бомбы тоже нет самосознания и свободы воли. Дальше что?
subbotin_alex
Mar. 31st, 2016 06:27 pm (UTC)
При чём тут бомба? :-)
antiseptic
Mar. 31st, 2016 09:34 am (UTC)
В этих ваших интернетах куча всякого
"1. В будущем компьютеры будут весить не более чем 1,5 тонны.
(PopularMechanics, 1949г)
2. Летающие машины, весом тяжелее воздуха невозможны!
(Lord Kelvin - президент Королевского Общества - Royal Society - 1895г)
3. Бурение земли в поисках нефти?
Вы имеете в виду, что надо сверлить землю для того, чтобы найти нефть? Вы сошли с ума. (ответ на проект Эдвина Дрейка в 1859г)
4. Да, кого, к чертям, интересуют разговоры актеров?
(реакция H.M. Warner - Warner Brothers на использование звука в кинематографе, 1927г)
5. Все, что могло быть изобретено, уже изобрели.
(Чарльз Дьюэлл - специальный уполномоченный американского Бюро Патентов, 1899г)
6. Такое устройство, как телефон имеет слишком много недостатков,
чтобы рассматривать его, как средство связи. Поэтому, считаю, что данное изобретение не имеет никакой ценности. (из обсуждений в компании Western Union в 1876г)
7. Эта музыкальная коробка без проводов не может иметь никакой коммерческой ценности.
Кто будет оплачивать послания, не предназначенные для какой-то частной персоны? (партнеры ассоциации David Sarnoff в ответ на его предложение инвестировать проект создания радио, 1920г)
8. Думаю, что на мировом рынке мы найдем спрос для пяти компьютеров.
(Thomas Watson - директор компании IBM, 1943г)
9. Концепция интересна и хорошо оформлена. Но, для того, чтобы идея начала работать, она должна содержать здравый смысл.
(профессура Yale University в ответ на предложение Фреда Смита об организации сервиса доставки на дом; Фред Смит станет основателем службы доставки Federal Express Corp.)
10. Ни у кого не может возникнуть необходимость иметь компьютер в своем доме.
(Ken Olson - основатель и президент корпорации Digital Equipment Corp., 1977г)
11. 640КБ должно быть достаточно для каждого.
(Bill Gates, 1981)
12. Нам не нравится их звук и, вообще, гитара - это вчерашний день.
(Decca Recording Co., отклонившая запись альбома группы the Beatles, в 1962г)
13. Самолеты - интересные игрушки, но никакой военной ценности они не представляют.
(Марешаль Фох, профессор, Ecole Superieure de Guerre.)
14. Теория Луи Пастера о микробах - смешная фантазия.
(Пьер Паше - профессор психологии университета Тулузы, 1872г)
15. Но, что может быть полезного в этой штуке?
(вопрос на обсуждении создания микрочипа в Advanced Computing Systems Division of IBM, 1968г)
16. Этой тарахтелкой можно пугать беременных кошек, но какой прок от неё в бою?
(генерал Китченер о первом танке, 1915).
17. Живот, грудь и мозг всегда будут закрыты для вторжения мудрого и гуманного хирурга.
(Сэр Джон Эрик Эриксен - британский врач, назначенный главным хирургом королевы Виктории, 1873г)
18. Профессор Годар не понимает отношений между действием и реакцией, ему не известно, что для реакции нужны условия более подходящие, чем вакуум. Похоже, профессор испытывает острый недостаток в элементарных знаниях, которые преподаются еще в средней школе.
(передовая статья в газете New York Times, посвященная революционной работе Роберта Годара на тему создания ракеты, 1921г)
19. 100 миллионов долларов - слишком большая цена за Microsoft.
(IBM, 1982)
20. Я изъездил эту страну вдоль и поперек, общался с умнейшими людьми и я могу вам ручаться в том, что обработка данных является лишь причудой, мода на которую продержится не более года.
(редактор издательства Prentice Hall, 1957г)"

Есть законы диалектики, и переход количества в качество еще никто не отменял.
subbotin_alex
Mar. 31st, 2016 06:23 pm (UTC)
Re: В этих ваших интернетах куча всякого
Ну да! В один прекрасный день какой - нибудь суперкомпьютер ВНЕЗАПНО осознает себя. Прэлесно! :-)
Для начала неплохо было бы разобраться с человеком: что такое самосознание, что такое свобода воли, интеллект, личность и как они работают.
ustas_ru
Mar. 31st, 2016 10:42 am (UTC)
А у современного человека есть самосознание и свобода воли?

Edited at 2016-03-31 10:43 am (UTC)
subbotin_alex
Mar. 31st, 2016 06:26 pm (UTC)
Вы не поверите - у любого есть. Это неотъемлемые свойства человека разумного. Если их отнять - человек перестаёт быть человеком, и становится овощем.
ustas_ru
Apr. 1st, 2016 03:44 pm (UTC)
Маркетологам, мерчендайзерам и прочим рекламщикам только не говорите такого - засмеют. :)
subbotin_alex
Apr. 1st, 2016 05:49 pm (UTC)
:-)
a_york
Mar. 31st, 2016 09:32 am (UTC)
да ладн, фигня какая.
всё, что делает этот бот - подбирает фразы из базы данных, максимально соответствующие контексту, попутно пополняя базу.
чистая арифметика.
ну вот сейчас ему еще политкорректность пропишут, поставив запрет на фразы с заданными ключевыми словами.
всё равно, это не более чем арифметика.
у бота нет своего мнения, нет никакого "компьютерного мозга".
рано начали бояться.
antiseptic
Mar. 31st, 2016 09:36 am (UTC)
"всё, что делает этот бот - подбирает фразы из базы данных"
Тут не бот страшен или важен.
Важно оскудение ума человечества, умноженное на возрастание возможностей машины.
a_york
Mar. 31st, 2016 10:25 am (UTC)
да ну почему же оскудение?
потому что бот антисемитизма нахватался?
musa_rvs
Mar. 31st, 2016 09:35 am (UTC)
Ножницы распахиваются все шире
между возможностями человека и технологиями. Опасность для человека, как вида, уже видны - т.н. "барьер Питерса"
ganibaev
Mar. 31st, 2016 09:36 am (UTC)
Для искусственного интеллекта гуманизм будет чуждой концепцией.
Технологические возможности растут и нельзя игнорировать потенциальные угрозы.

На Западе об этом тоже говорят.
http://www.soel.ru/news/world/?id=509604

Элон Маск (основатель SpaceX):
«Если машины запрограммированы на рекурсивное самоулучшение, а их функции могут каким-либо образом оказать пагубное влияние на человечество, это может иметь крайне плохой эффект. Мы должны быть очень осторожны с искусственным разумом. Теоретически он может быть опаснее ядерного оружия.»

Билл Гейтс (основатель Microsoft):
«Я вхожу в лагерь тех, кто обеспокоен развитием супер-интеллекта. Поначалу машину будут выполнять за нас огромную часть работы и не будут сверхинтеллектуальными. Это принесёт пользу при условии, что контроль останется в наших руках. Однако спустя несколько десятилетий искусственный интеллект станет достаточно развитым, чтобы превратиться в проблему.»
kamrad2213
Mar. 31st, 2016 09:42 am (UTC)
> И смешная болталка-бот, мгновенно ухватывающая обезьяньи ухватки окружающих людей, очень скоро своим компьютерным мозгом дойдет до решения человеческой проблемы в рамках планеты Земля.

Не будет этого. ИИ - это примерно как искусственная рука, или искусственная нога. Сам по себе - ничего не может. Решает лишь те задачи на которые его натравят - в очень узком спектре. А уж чат-боты - это и вовсе смехотворная вещь.

А вот искусственная личность, я уверен, сможет и задаваться глубокими философскими вопросами о смысле жизни, и написать роман и т.д. и т.п.

Проблема в том, что для компьютерного моделирования личности нужно знать как устроена личность реальная - нужно, грубо говоря, тех. задание. А в психологии - бардак, и нескоро ещё знание очеловеке будет достаточно оплным, чтобы можно было смоделировать личность.

Но когда оно станет таковым... Тогда боятся нам следует не того, что роботы всех поубивают. Это лсишком скучный сюжет. Меня лично больше стршит, что искусственная личность окажется во всем лучше людей. Гуманнее, добрее, талантливее, умнее и т.д. И как будет чувстовать себя человечество рядом с таким ИИ?
antiseptic
Mar. 31st, 2016 09:53 am (UTC)
"ИИ - это примерно как искусственная рука, или искусственная нога. Сам по себе - ничего не может."
- ИИ относят к смертельно опасным факторам, вполне способным уничтожить человечество в ближайшие десятилетия. Наряду с генной инженерией, вирусом судного дня и нанотехнологиями.

"Меня лично больше стршит, что искусственная личность окажется во всем лучше людей. Гуманнее, добрее, талантливее, умнее и т.д. И как будет чувстовать себя человечество рядом с таким ИИ? "
- Все верно. Это я и имею ввиду, описывая метафорой про барьер "Войны и Мира".
Кстати, человечество, свалившееся ниже этого барьера - вряд ли даже сможет осознать трагедию произошедшего.
vvdom
Mar. 31st, 2016 12:12 pm (UTC)
""Меня лично больше стршит, что искусственная личность окажется во всем лучше людей. Гуманнее, добрее, талантливее, умнее и т.д. И как будет чувстовать себя человечество рядом с таким ИИ? ""
- не грозит. Все выше сказанное не формализуется. ИИ никогда не сможет ПОНИМАТЬ того, что он делает, в отличие от человека. Есть простые фундаментальные ограничения, которые "перепрыгнуть" ИИ не сможет никогда.
Не буду ссылаться на Машину Тьюринга, теорему о неполноте арифметики, наконец на результаты Роджера Пенроуза.
Самое простое: возьмите фразу на русском и переведите ее туда-обратно скажем на английский-русский, чтоб убедиться что до сих пор, что бы там ни обезьянничал ИИ, он не понимает что говорит.
Сергей Соловьев
Mar. 31st, 2016 10:22 am (UTC)
Реально - не смешная болталка, а настоящий ИИ. Поскольку смог собрать и проанализировать болтающиеся в сети массивы информации и сделать правильные выводы. Про то, например, что Холокост - выдумка сионистов, их метод взять весь мир за жабры и заставить каяться. Да и Вторая мировая началась не как агрессия Германии, а как упреждающий удар по готовой напасть на рейх Польше. Историю полезно знать, и ИИ этим основательно занялся.
natarintah
Mar. 31st, 2016 10:40 am (UTC)
Машина никогда не напишет Войну и Мир.
judgesuhov
Mar. 31st, 2016 10:46 am (UTC)
Страшное дело
Страшное дело - антропометрические ножницы...
belugin_alexey
Mar. 31st, 2016 05:02 pm (UTC)
И тут проблема не только в том, что с развитием науки и техники возрастает цена критических ошибок топ менеджеров (вирус судного дня) или просчетов в обеспечении безопасности (условно, хакер взламывает автопилот самолета, отключает какой-нибудь датчик и самолет разбивается об гору), а недостаточный уровень развития человека во всем его многообразии увеличивает вероятность ошибки (и дело не в том, что он не правильно решает задачи и встречает вызовы, а в том, что он их вообще может не заметить или пропустить).

Растет еще и цена ошибки менеджера среднего звена. Например, по легендам, один из спадов на азиатских биржах был вызван тем, что трейдер заснул на клавиатуре, зажав лицом кнопку "продать". В результате - паника, обвал, куча людей разорилась.
vlad_n_ag
Mar. 31st, 2016 09:31 pm (UTC)
- "Давно уже говорится об увеличивающемся разрыве между уровнем развития Человека и уровнем технического прогресса. Чем разрыв больше, тем в большей опасности существование человечества."

Прогресс - это развитие от простого к сложному. Материя во Вселенной с течением времени проходит этапы эволюции - от возникновения элементарных частиц и водорода к более сложным атомам, молекулам, органическим соединениям, живым организмам.
Живая материя развивается в том же направлении - усложняется. Возникают различные формы в которых отражаются те или иные приспособления для выживания.
Человек, в отличие от других видов, заполучил не выдающиеся когти зубы или шерсть, а мозг, способный к более сложной обработке информации. Его механизмом выживания стало не приспособление к меняющейся среде, а способность за счет знаний о природе к изменению среды под свои потребности. И накопление знаний, совершенствование технологий - это пополнение инструментария, позволяющего человечеству двигаться вперед, т.е. жить. Развитие технического прогресса напрямую связано с развитием человека. Проблема в том, что при капитализме главная цель - получение прибыли и для ее достижения большого числа развитых людей и не требуется. Основная масса должна быть не творцами, а примитивными потребителями. А на современном этапе уже и сам технический прогресс элитами развитых стран начинает рассматриваться как вредный и опасный. Но что такое его остановка - это первый шаг к регрессу. А за ним и исчезновение вида в небытие, как тупиковой ветви эволюции.
На мой взгляд проблема в нынешней глобальной системе и тех целях, которым подчиняют технический прогресс элиты.
И до тех пор, пока основной целью является максимизация прибыли и закрепление своего привилегированного положения, большую часть человечества будут погружать во всё более травматическое состояние. Что и несет в себе основную угрозу, потому что ведет к расчеловечиванию. Для того, чтобы человечество не выпадало из потока эволюции, по мере нарастания сложности нужно наоборот, всё больше людей вовлекать в творческую созидательную деятельность. В пределе целью должно стать раскрепощение и пробуждение высших творческих способностей в каждом человеке. Эта идея должна быть близка как светским людям, гуманистам, так и религиозным. Ведь если Бог создал человека по образу и подобию своему, что может быть большей для него радостью, если не рост его созданий их развитие и восхождение?
sdvoryanchikov
Apr. 1st, 2016 09:25 am (UTC)
сами породили))
( 24 comments — Leave a comment )