|
|
|
|
|
|
|
|
| |
|
|
|
|
|
|
|
avi47: Michael_S: avi47:
Считаете ли вы, господа, что три закона Азимова - это сказка вообще? |
Да, считаю. |
Потому, как технически невозможно или просто интеллигентская блажь или третий вариант? |
В том виде, как описано у Азимова, т.е. как свойство аппаратуры - технически невозможно. Но это ладно, позитронный мозг ведь тоже технически невозможен. Допустим, заменяем "врожденное" свойство аппаратуры на встроенную программу с офигительно надежной криптографической защитой от модификации.
Все равно сказка. Потому что такие вот простые законы чрезвычайно сложно однозначно формализовать.
Собственно, три четверти рассказов о Сьюзен Келвин - как раз про эту сложность. И только одна четверть - про недоёб. |
|
|
| номер сообщения: 54-59-3821 |
|
|
|
|
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Это легко выполнить за исключением, когда робот сломается и будет вести себя непредсказуемо.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Первый Закон злобно сконструированному роботу легко можно нарушить по приказу злобного конструктора.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Этого добиться трудно - как увильнуть от удара молотом со стороны врага злобного конструктора?  |
|
|
| номер сообщения: 54-59-3822 |
|
|
|
|
avi47: Пардон, я имел ввиду законы Азимова - это блажь, а не резоны собеседника  |
Я так и понял. Интеллигентская блажь - она ведь бывает у интеллигентов. У Пиррона, скажем, у Жени. У ЛБ за милую душу, чему свидетельством эта ветка. У Чича...
Я тут по определению не подхожу. Врожденный иммунитет. |
|
|
| номер сообщения: 54-59-3823 |
|
|
|
|
Общий вывод из замечаний уважаемых господ Хайдука и Майкла_С: Растить интеллект в машинах ради перекладывания на них сложных, отличных от чисто технических функций рискованно. Где граница чисто технических функций и тех, что связаны с нравственными решениями, неизвестно. Задачу можно решить, усовершенствовав человека-творца машин, что является ещё более неразрешимой задачей. Пессимистичненько...  |
|
|
| номер сообщения: 54-59-3824 |
|
|
|
|
avi47:
Считаете ли вы, господа, что три закона Азимова - это сказка вообще? Или, может быть, воплощённые в жизнь, они в такой степени ограничат интеллектуальные возможности машин, что те не смогут справляться со сверхзадачами, которые человечество в лице участников форума собирается на них возложить? |
Что касается меня, то я говорю не о роботах (в азимовском смысле), а о новых носителях разума, обладающих свободной волей и, безусловно, нравственностью.
А религиозных и антроцентричных взглядов, на которых основываются возражения оппонентов, я не разделяю |
|
|
| номер сообщения: 54-59-3825 |
|
|
|
|
И все-таки, ув. ЛБ, на чем основывается ваша убежденность в нравственности искусственного интеллекта, обладающего свободной волей. Даже на простом человеческом примере мы все хорошо усвоили, что гений и злодейство две вещи весьма совместные. Где же гарантия, что творение рук человека, не имеющее понятия о чувствах, совести, эмоциях и т.д. окажется нравственнее самого человека?
__________________________
Спасение там, где опасность. |
|
|
| номер сообщения: 54-59-3826 |
|
|
|
|
LB: avi47:
Считаете ли вы, господа, что три закона Азимова - это сказка вообще? Или, может быть, воплощённые в жизнь, они в такой степени ограничат интеллектуальные возможности машин, что те не смогут справляться со сверхзадачами, которые человечество в лице участников форума собирается на них возложить? |
Что касается меня, то я говорю не о роботах (в азимовском смысле), а о новых носителях разума, обладающих свободной волей и, безусловно, нравственностью.
А религиозных и антроцентричных взглядов, на которых основываются возражения оппонентов, я не разделяю |
То есть, Вы замахиваетесь на предположение, что в обозримом (иначе не стоит об этом рассуждать) будущем с помощью технического прогресса, в основном осуществляемом конструкторами компьютеров и программистами, руководимыми философами и прочими гуманитариями-специалистами по нравственности и культуре и проч. появится новая раса людей (или уже это будут сверхлюди)? При этом ключевым в моём вопросе является обозримость этой перспективы. |
|
|
| номер сообщения: 54-59-3827 |
|
|
|
|
| Я говорю исключительно о тенденции исторического (подчеркиваю) развития. Речь идет не о том, что люди прямо сейчас должны приняться за конструирование "сверхчеловека", что было бы еще более бессмысленно и нелепо, чем конструирование самолета в 15 столетии. Однако при этом надо учитывать, что эволюция (в самом широко смысле, включая и научно-технический прогресс) происходит с колоссальным ускорением. |
|
|
| номер сообщения: 54-59-3828 |
|
|
|
|
Я вот хочу всё придумать название для науки об ИИ, ведь сейчас это AI,
если объединить ИИ и робототехнику, получается airics = AI + robotics (айрика). Artificial intelligence можно заменить по Курцвейлу Accelerating Intelligence.
Основная заждача айрики - построение устойчиво дружественного, сильного ИИ.
(The main goal of airics - the creation of a stable friendly strong artificial intelligence.)
Важна устойчивость дружественности, потому что можно создать дружественный ИИ, а потом он соскочит в недружественный.
В своём развитии и уcилении риска ИИ будет иметь, как по мне, как минимум четыре вехи:
1.Приблизительное равенство ИИ и человека (предел Тьюринга).
2.ИИ может полностью обходиться без человека.
3.Человек начинает мешать ИИ (предел Скайнет).
4.ИИ становится богом (предел Азимова). Воплощён в рассказе "Последний вопрос". Отсюда можно дать определение бога как идеальный интеллект с идеальными эффекторами.
__________________________
pr.ai PRAI Portal of Robotics and Artificial Intelligence |
|
|
| номер сообщения: 54-59-3830 |
|
|
|
|
| LB: ННР будет создан не людьми, а продолжением действия той силы, которая создала и самого человека. |
Человек не дружит с обезьянами, однако, хотя бывают расы нашего брата. |
|
|
| номер сообщения: 54-59-3831 |
|
|
|
|
| Обережний герой: 4.ИИ становится богом (предел Азимова)... Отсюда можно дать определение бога как идеальный интеллект с идеальными эффекторами. |
Идея Бога абсурдна, потому что никакому идеальному интеллекту нельзя совладеть с дёрганием ниток всему и вся, это нонсенс  |
|
|
| номер сообщения: 54-59-3832 |
|
|
|
|
| Vova17: И все-таки, ув. ЛБ, на чем основывается ваша убежденность в нравственности искусственного интеллекта, обладающего свободной волей. Даже на простом человеческом примере мы все хорошо усвоили, что гений и злодейство две вещи весьма совместные. Где же гарантия, что творение рук человека, не имеющее понятия о чувствах, совести, эмоциях и т.д. окажется нравственнее самого человека?
|
По-моему, чувства, совесть и нравственность являются атрибутами разума. Разум есть инструмент созидания. А без души возможно только разрушение. "Разум", лишенный чувств и нравственности - это не разум.
И еще раз хочу сказать, что ННР будет создан не людьми, а продолжением действия той силы, которая создала и самого человека. Но люди станут новой частью этой силы.
Идея стихийного возникновения ННР может показаться мистической. Но таково всё, возникающее без предварительной цели и четкого плана, и не способное возникнуть иначе.Например, Интернет как система коллективной памяти мог сформироваться только стихийно. Или изначально стихийная рыночная экономика, в то время как идея плановой экономики благополучно провалилась. |
|
|
| номер сообщения: 54-59-3833 |
|
|
|
|
| LB: Идея стихийного возникновения ННР может показаться мистической. |
Никак даже, только неясно какую роль сможет сыграть как раз плановый и эгоистический наш разум в заведомо стихийном возникновении ННР ?  |
|
|
| номер сообщения: 54-59-3834 |
|
|
|
|
avi47:
То есть, Вы замахиваетесь на предположение, что в обозримом (иначе не стоит об этом рассуждать) будущем с помощью технического прогресса, в основном осуществляемом конструкторами компьютеров и программистами, руководимыми философами и прочими гуманитариями-специалистами по нравственности и культуре и проч. появится новая раса людей (или уже это будут сверхлюди)? При этом ключевым в моём вопросе является обозримость этой перспективы. |
Я скорей поверю в позитронного робота с тремя вшитыми законами, чем в первоклассных железячников и програмёров, позволяющих собой руководить философам и прочими гуманитариям. Окромя специального случая - гуманитариев в погонах. |
|
|
| номер сообщения: 54-59-3835 |
|
|
|
|
Технократия - это утопия.
Ещё ни разу не видел общества, в котором руководили бы железячники и программеры. Может быть, Вас вводят в заблуждение цифры, которыми оперируют на бирже? Или смущает второе слово в словосочетании "social engineering"? |
|
|
| номер сообщения: 54-59-3836 |
|
|
|
|
| Roger: Технократия - это утопия... вводят в заблуждение цифры, которыми оперируют на бирже? |
Те, кто оперируют цифрами на бирже, не могут ли вершить судьбами? |
|
|
| номер сообщения: 54-59-3837 |
|
|
|
|
Roger: Технократия - это утопия.
Ещё ни разу не видел общества, в котором руководили бы железячники и программеры. |
Я тоже не видел.
Но вопрос был не о том, кто руководит обществом, а о том кто руководит железячниками и програмёрами.
И тут ответ - либо альфа железячник/програмёр, либо мегакрутой менеджер по продажам типа Джобса. Либо гуманитарии в погонах.
Либо менеджер по продажам/гуманитарии в погонах думают, что руководят, а на самом деле ребята выпиливают лобзиком то, что интересно их альфе.
P.S.
В общем, со стороны все не так, как в академии, а на деле не просто что так, а более чем так. |
|
|
| номер сообщения: 54-59-3838 |
|
|
|
|
| Руководить тоже требует таланта, и не одного. Хорошему начальнику не помешает усвоить на пальцах самое важное у технарей. |
|
|
| номер сообщения: 54-59-3839 |
|
|
|
|
| Хайдук: Те, кто оперируют цифрами на бирже, не могут ли вершить судьбами? |
Могут. Речь шла о том, что их циферки по форме напоминают те, которыми пользуются программисты, ну и компьютеры внешне могут быть неотличимы.
Michael_S: Я тоже не видел.
Но вопрос был не о том, кто руководит обществом, а о том кто руководит железячниками и програмёрами.
И тут ответ - либо альфа железячник/програмёр, либо мегакрутой менеджер по продажам типа Джобса. Либо гуманитарии в погонах. |
Каждый человек достигает уровня собственной некомпетентности. Знание железа и софта начиная с некоторого уровня начинает просто вредить карьере. Ну а поскольку система многоуровневая, то наверху сепарируются только менеджеры разной степени крутизны и гуманитарии с погонами разного цвета.
| Michael_S: Либо менеджер по продажам/гуманитарии в погонах думают, что руководят, а на самом деле ребята выпиливают лобзиком то, что интересно их альфе. |
Это так и бывает, но совершенно не связано с компетентностью вышестоящего начальства. Кроме того, чаще всего наблюдается корреляция фигур лобзика с обозначенными начальством горизонтами. |
|
|
| номер сообщения: 54-59-3840 |
|
|
|
|
Полагаю, что хватило бОльшего, чем технарей, когда определяли то сочетание функций и выпендрёжей, что принесли столько бабла айфону  |
|
|
| номер сообщения: 54-59-3841 |
|
|
|
|
Хайдук: | LB: Идея стихийного возникновения ННР может показаться мистической. |
Никак даже, только неясно какую роль сможет сыграть как раз плановый и эгоистический наш разум в заведомо стихийном возникновении ННР ? |
'плановый и эгоистический наш разум' поработает на ННР не хуже чем на экономику. Жизнь будет порождать всё новые и новые противоречия, ставить вполне практические проблемы, а люди будут их благополучно решать "по мере поступления". И случится так, что побочные результаты этих решений (новые знания и технологии) рано или поздно направят развитие 'интеллектуальных машин' в совсем иное, новое русло |
|
|
| номер сообщения: 54-59-3842 |
|
|
|
|
Заявление сферху показалось довольно неинформативным, так сказать, основанным на голой вере. Любой ННР, способный составить нам вызов, поднимет почти неразрешимые морально-этические и экзистенциальные проблемы  |
|
|
| номер сообщения: 54-59-3843 |
|
|
|
|
Как уже говорилось, уверенность, что завтра взойдет солнце (а иначе зачем всё?) тоже основывается на вере.
Без веры в повторяемость и "продолжаемость" прошлого и само познание не имеет смысла. |
|
|
| номер сообщения: 54-59-3844 |
|
|
|
|
| То, что это уже говорилось, не означает, что это верно. |
|
|
| номер сообщения: 54-59-3845 |
|
|
|
|
| LB: уверенность, что завтра взойдет солнце (а иначе зачем всё?) тоже основывается на вере. Без веры в повторяемость и "продолжаемость" прошлого и само познание не имеет смысла. |
Ну, разницы все-таки нельзя не заметить - вера в восход солнца основана на подавляющей прошлой статистике, чего нельзя сказать про веру в ННР  |
|
|
| номер сообщения: 54-59-3846 |
|
|
|
|
| Roger: То, что это уже говорилось, не означает, что это верно. |
Без веры в то, что верное верно, Ваше возражение тоже не имеет смысла. :) |
|
|
| номер сообщения: 54-59-3847 |
|
|
|
|
Хайдук:
Ну, разницы все-таки нельзя не заметить - вера в восход солнца основана на подавляющей прошлой статистике, чего нельзя сказать про веру в ННР |
There are three kinds of lies: lies, damned lies, and statistics |
|
|
| номер сообщения: 54-59-3848 |
|
|
|
|
Статистика не ложь, ЛБ, и это Вы хорошо знаете.
Кроме того, про восход солнца у нас хорошая теория, состыковывающаяся со многим чего. Случай с солнцем вообще железен, веру лучше чем-то другим поддержать |
|
|
| номер сообщения: 54-59-3849 |
|
|
|
|
| LB: Без веры в повторяемость и "продолжаемость" прошлого и само познание не имеет смысла. |
Вы уже приготовились к концу света, LB? Ведь он возможен, а значит, познание бессмысленно.
| LB: Без веры в то, что верное верно, Ваше возражение тоже не имеет смысла. :) |
Я бы на вашем месте обратил внимание на тот же корень в слове "вероятность".
А так же на корни "втор-", и "долг-" в словах "повторяемость" и "продолжаемость", говорящие о наблюдательном опыте.
Наблюдательный опыт не требует веры, но позволяет оценить вероятность допущения о том, что солнце встанет завтра. Чтобы познание приобрело смысл, достаточно, чтобы эта вероятность была выше нуля.
Большинство споров потеряют смысл если договаривающиеся стороны договорятся о терминологии. На мой взгляд, отличие веры от уверенности состоит как раз в рациональной основе и допуске альтернативных вероятностей. |
|
|
| номер сообщения: 54-59-3850 |
|
|
|
|
Хайдук: Статистика не ложь, ЛБ, и это Вы хорошо знаете.
Кроме того, про восход солнца у нас хорошая теория, состыковывающаяся со многим чего. Случай с солнцем вообще железен, веру лучше чем-то другим поддержать |
Возможно обосновать только необходимость ННР.
В история цивилизации не было таких угроз существованию человечества, которые не были бы предотвращены. Это тоже статистический вывод, кстати. |
|
|
| номер сообщения: 54-59-3851 |
|
|
| |
|
|
|
|
|
|
|
| Copyright chesspro.ru 2004-2024 гг. |
|
|
|
