Интересно#6

Back to LTB in Russian

Comments

Akinale

Offline
Posts: 309
Location: Russian Federation

• Если роботам не объяснить ценность человеческой жизни, они могут начать убивать нас из добрых побуждений.

Предупреждение было высказано Нелл Уотсон, инженером из Амстердама, на недавней конференции

• Будущие поколения людей могут быть истреблены роботами, если машины не научатся ценить человеческую жизнь. Такое заявление сделала голландский инженер Нелл Уотсон, которая считает, что машины могут начать убивать людей и из дурных побуждений, и из добрых.

Научить машины быть добрыми — недостаточный шаг, считает она. Роботы могут проявить к людям наивысшее сострадание и уничтожить их, чтобы прекратить мучения человечества.

• Важнее всего объяснить им абсолютную ценность человеческой жизни, сказала Уотсон на недавней конференции по эволюции медиа в Швеции.

• Уотсон полагает, что совсем скоро компьютерные чипы достигнут уровня аналитических способностей шмеля, что позволит им анализировать социальные ситуации и окружающую их среду. Машины будут знать об окружающем мире и, в какой-то степени, о себе самих. Это станет причиной серьезных изменений. Уже сегодня Google разрабатывает автономный автомобиль(об этом ниже) , самостоятельно выбирающий направление движения и скорость. Японские компании лидируют в создании роботов, помогающих по хозяйству старикам и инвалидам.

В то же время Уотсон не считает развитие робототехники негативным процессом, по ее мнению, машины «могут помочь нам понять самих себя». Но неизвестно, будет ли искусственный интеллект, когда он появится, дружелюбно настроен по отношению к человеку.

• В этом ее слова перекликаются со словами Илона Маска, основателя Tesla, заявившего, что искусственный интеллект потенциально может быть опаснее ядерного оружия. Эта мысль пришла ему в голову при прочтении книги Ника Бострома «Суперинтеллект: пути, опасности, стратегии». Кстати, Бостром считает, что человечество живет в компьютерной симуляции(об этом ниже) , а тот мир, который мы знаем — подделка под реальность. Позднее Маск написал: «Надеюсь, что мы не просто биологический загрузчик цифрового суперинтеллекта. К сожалению, вероятность этого растет».

• Предприниматель настолько обеспокоился проблемой искусственного интеллекта, что сделал инвестиции в компанию Vicarious, работающую в этой сфере. Маск пошел на это не в ожидании прибыли, а для того, чтобы следить за разработкой искусственного интеллекта. В эту же компанию вложили свои средства основатель Facebook Марк Цукерберг и актер Эштон Катчер.

• Сейчас Vicarious работает над программой, имитирующей работу неокортекса — коры головного мозга. Этот участок отвечает за высшую нервную деятельность: сознательные мысли, речь, ориентацию в пространстве и восприятие. В октябре 2013 года компания заявила, что созданная ей программа научилась обходить Captcha — тесты, которые отделяют людей от роботов при входе на некоторые сайты.

• Известный физик Стивен Хокинг тоже считает, что искусственный интеллект представляет собой опасность для человечества. В статье для Independent ученый написал:Успех в создании ИИ может стать величайшим событием в человеческой истории. К сожалению, оно же может стать последним.

Posted on August 30, 2014 at 9:10 AM

4 likes

• Akinale

  

  Offline
  Posts: 309
  Location: Russian Federation

  О google и их разработки:

  На днях Google представил одну из своих последних разработок. Это двухместный полностью автономный электромобиль. В нем нет даже рулевого колеса.

  В отличие от Prius или гибридных Lexus'ов, этот автомобиль был разработан полностью с нуля. Он призван показать альтернативный взгляд на личное средство передвижения. Никакого управления, в котором мог бы участвовать пассажир — только доставка из пункта А в пункт Б.

  • Как заявляет Google в пресс-релизе:

    Сейчас мы изучаем, как будут выглядеть полностью самостоятельные автомобили, строя несколько прототипов; они будут созданы, чтобы работать безопасно и автономно без вмешательства человека. В них не будет ни рулевого колеса, ни педали газа, ни педали тормоза... потому что они не нужны им. Наше программное обеспечение и датчики делают всю работу. Эти машины будут очень простыми — мы хотим узнавать новое от них и изменять как можно скорее — но они доставят вас в пункт назначения просто по нажатию кнопки. И это важный шаг на пути к повышению безопасности дорожного движения и изменению средств передвижения для миллионов людей

  • Начав работу с чистого листа, конструкторы Google X – подразделения Google, занимающееся перспективными разработками в сфере высоких технологий – решили, что электромобилю не нужно не только ручное управление, но и зеркала, аудиосистема и бардачок.

  • Вместо этого в нем есть электромотор (максимальная скорость ограничена 40 километрами в час), кнопки запуска и остановки, а также карта, на которой можно следить за передвижением по маршруту. Дизайну разработчики уделили мало внимания — электромобиль чем-то напоминает искусственную коалу. Но технологии, использованные в нем, впечатляют. Развивая свои идеи о датчиках движения, конструкторы постепенно перешли от датчиков с углом обзора 12 градусов (такие использовались в самых ранних прототипах), к датчикам с углом обзора 360 градусов, сканирующим территорию на расстоянии до 182 метров и отслеживающим одновременно сотни объектов.

  Как и более ранние разработки, этот электромобиль обладает очень сдержанной манерой езды, направленной на безопасность перевозимых пассажиров.

  • Он держится вне слепых зон, не срывается с места мгновенно, когда загорается зеленый, и предусматривает возможность появления толпы мотоциклистов, обгоняющих пробку по разделительным линиям.

  • Большое внимание уделено пассивной безопасности. Именно ради безопасности ограничена максимальная скорость: ниже скорость — меньше ущерб. Лобовое стекло сделано гибким. Передняя часть выполнена из пены по типу монтажной на случай столкновения с пешеходом или велосипедистом. Хотя не предусмотрено никаких средств управления для пассажиров, тормоза и рулевая система продублированы на случай отказа.

  - Мы представляем, что в какой-то момент с одной из этих машин произойдет несчастный случай, поэтому мы сделали переднюю часть мягкой, - говорит Рон Медфорд, руководитель направления безопасности в этом проекте и бывший сотрудник министерства транспорта США, отвечавший за исследования безопасности автомобилей и правила техники безопасности.

  !Электромобиль создан для того, чтобы продемонстрировать перспективы этого направления и побудить автомобилестроителей к сотрудничеству с Google!

  Компания пока не собирается создавать собственное производство.

  • Google планирует собрать около 100 таких электромобилей для тест-драйвов этим летом. У этих мелкосерийных электромобилей будет ручное управление — в качестве запасного. В продажу они не поступят. Видео с электромобилем.
  Posted on August 30, 2014 at 9:18 AM
  Permalink
  2 likes
• Akinale

  

  Offline
  Posts: 309
  Location: Russian Federation

  О человечестве в компьютерной симуляции.

  Если недавние измерения космических лучей верны, то, вероятно, мы получили первое доказательство того, что наша Вселенная — это гигантская компьютерная модель.

  • Люди исследовали законы нашей жизни многие столетия. Нередко можно услышать, что многие природные константы идеально подходят для существования жизни.

  Из-за этого возникла «теория песочницы», более известная как «гипотеза зоопарка» - весь наш мир это просто модель, а мы — герои очень-очень большой игры Sims.

  • Если это так, то когда-нибудь мы должны дойти до краев песочницы. И вот, наконец, группа физиков заявила, что их измерения космических лучей (движения элементарных частиц с высокими энергиями в космическом пространстве) могут быть первым таким признаком.

  • Идея, что все мы живем в искусственной реальности, созданной высшим разумом, много раз возникала у разных мыслителей. Об этом писали и Платон, рассказывающий «миф о пещере», и Декарт, описывающий своего «злого демона», и Патнэм с его аллегорией «мозгов в чане». Нео из «Матрицы» принял красную таблетку, чтобы узнать как выглядит реальный мир. Выяснить, является ли реальной наша Вселенная, гораздо сложнее.

  • Неудивительно, что моделирование всей Вселенной затруднительно — в первую очередь из-за ее размеров, хотя есть и множество других факторов. В настоящее время, если мы моделируем квантовую хронодинамику, обеспечивающую сильное ядерное взаимодействие, то мы можем управлять ей только в масштабе фемтометров (миллионных долей нанометра). Этого недостаточно даже для понимания самых маленьких микроорганизмов, не говоря уже о планетах, звездах и галактиках.

  Тем не менее, нам известно, что при создании такой модели необходима решетка, которая структурирует пространство.

  • Модель сильного ядерного взаимодействия работает как пятнашки — одновременно можно переместить не менее одного квадратика.

  *Если бы мы действительно жили внутри компьютерной программы, у нас был бы шанс обнаружить такую решетку на краях наблюдаемой Вселенной. Сайлас Бин и его коллеги из Боннского университета опубликовали на ArXiv.org (сайт для предварительной публикации естественнонаучных работ) статью, в которой задались вопросом: есть ли такая решетка в нашем мире?

  Космические частицы движутся по всей вселенной, изменяя свою скорость и направление полета. Существует определенный лимит энергии, которая содержится в частице. Измерение этой энергии позволило Бину и его соавторам говорить, что частицы ведут себя так как если бы они лежали в основе этой невидимой решетки.

  • Если результаты Бина достоверны, это может означать несколько вещей. Во-первых, может оказаться, что мы действительно живем в компьютерной модели. Во-вторых, вероятно, что Бин неверно интерпретировал полученные данные. В-третьих, это может говорить о том, что в целом теория песочницы верна, но настоящая решетка работает совсем иначе.

  На самом деле, мы пока не можем быть ни в чем уверены. Это похоже на то, как ребенок сидит у экрана телевизора и разглядывает отдельные пиксели. Будем надеяться, что мы пикселей не увидим.

  !На сегодня всё. Можно пофлудить. Спасибо!

  Posted on August 30, 2014 at 9:24 AM
  Permalink
  5 likes
• Sunlight

  

  Offline
  Posts: 7

  Да, интеесно. Спасибо за шару!

  Мне вот что интересно. Кто как думает? Почему развитие высоких технологий тормознулось в последние 3-4 года? Вы помните то стремительное развитие в последние 5-10 лет?

  Posted on August 30, 2014 at 9:25 AM
  Permalink
  3 likes
• Takeshi80

  

  Offline
  Posts: 467
  Location: Ukraine

  @sunlight Да, интеесно. Спасибо за шару!

  Мне вот что интересно. Кто как думает? Почему развитие высоких технологий тормознулось в последние 3-4 года? Вы помните то стремительное развитие в последние 5-10 лет?

  Все сложнее и сложнее придумывать что-то новое, нет, ну конечно всякие там гуру в этом деле есть, но у всего бывает предел, хотя пределу развития подобных технологий я пока что не вижу, пусть они сейчас и развиваються медленнее, но каждые нововведения воспринимаються позитивно и радостно.

  Posted on August 30, 2014 at 10:26 AM
  Permalink
  3 likes
• Petrik

  

  Offline
  Posts: 404
  Location: world

  @akinale

  • Если роботам не объяснить ценность человеческой жизни, они могут начать убивать нас из добрых побуждений.

  Сначала эту доктрину - ценность человеческой жизни - надо вложить в умы всех и каждого из представителей этого человечества. Топмастеру человеческое спасибо. Каждый топ читаю с удовольствием. Дает пищу для ума.

  Posted on September 11, 2014 at 6:30 AM
  Permalink
  1 like
• Petrik

  

  Offline
  Posts: 404
  Location: world

  гипотеза интересная. возникает вопрос - кто эту программку создал и зачем? и кто является модератором?

  Posted on September 11, 2014 at 6:38 AM
  Permalink
  1 like
• maksimzzzu

  

  Offline
  Posts: 395
  Location: Киев

  **Уотсон полагает, что совсем скоро компьютерные чипы достигнут уровня аналитических способностей шмеля, что позволит им анализировать социальные ситуации и окружающую их среду. Машины будут знать об окружающем мире и, в какой-то степени, о себе самих. Это станет причиной серьезных изменений. Уже сегодня Google разрабатывает автономный автомобиль(об этом ниже) , самостоятельно выбирающий направление движения и скорость. Японские компании лидируют в создании роботов, помогающих по хозяйству старикам и инвалидам***

  Размышления в стиле Стивена Кинга - а вдруг им не понравиться человеческий вид?

  Posted on September 11, 2014 at 8:46 AM
  Permalink
  1 like

Post Reply