Кто к нам с чем зачем, тот от того и того! (kamrad2213) wrote,
Кто к нам с чем зачем, тот от того и того!
kamrad2213

Тревожные мысли об искусственном интеллекте



То, что рисуется под названием "искусственный интеллект" в фантастике, я считаю, правильнее было бы назвать "искусственной личностью". Потому что искусственный интеллект - это как "искусственная храбрость" или "искусственная ловкость" - нечто странное, на мой взгляд. Если бы назвали "искусственный мозг" - было бы понятно. Они, искусственные мозги, уже есть в большом количестве.

Видимо, это такое наследие Модерна, для которого характерно преувеличение роли Разума, преклонение перед разумом и т.д. В итоге весь человек как бы сводится к его разуму. Возьмем тест Тьюринга. Может ли машина пройти его, если она в добавок к ИИ не будет обладать искусственными эмоциями, искусственными ощущениями, искусственным юмором, искусственными инстинктами и т.д.? А как быть с искусственной системой ценностей? Можно ли, не обладая всем этим, убедить людей, что ты не машина, а человек? Думаю, нет (если конечно, сами люди, участвующие в тесте, будут достаточно взыскательны).

Можно ли создать такую машину? Уверен, что да. Но, скорее всего, нескоро. Для этого сперва нужно понять как устроен человек, его сознание. А до этого, подозреваю, ещё далеко. Т.е. не разработана предметная область. А без этого нет нормального, простите, тех.задания. А без тех. задания не может быть результата. Есть только успехи в решении отдельных прикладных задач. Внушительные порой, но ограниченные.

Другой вопрос, что, действительно, будет с человеком, после того, как появится искусственная личность, которая будет обладать потенциально безграничными возможностями: абсолютная память, точность, сила, органы чувств такие, каких у нас просто нет, и т.д.

Точнее, тревожит даже не это. Самое тревожное, что такая личность, если её существование возможно (а я убежден, что возможно), потенциально будет и в моральном, культурном и всех других "духовных" (долго думал, нужны ли тут кавычки) аспектах опережать человека. Что помешает создателям настроить систему так, чтобы она не зависела (так сильно, как человек, или вообще) от низменных животных позывов (которые, конечно, тоже можно смоделировать)? Что помешает создателям вложить в "голову" такой машины самую гуманистичную идеологию, самые глубокие смыслы, абсолютное самопожертвование и т.д.?

Коли мы гуманисты, то как мы должны относится к такой возможности? И можем ли мы её отрицать? Можем ли мы отрицать способность человека создать кого-то принципиально более совершенного, чем он сам, если мы гуманисты и считаем, что для него нет ничего невозможного?

Это гораздо более тревожные вопросы, чем страшилки про "Скайнет".

Tags: идеи, наука
Subscribe

promo kamrad2213 september 3, 2014 14:01 12
Buy for 20 tokens
Продолжаю выкладывать материалы о настоящих пермских музеях, которым есть что показать, в отличие от. Другие: музей авиации и космонавтики Пермского авиационного техникума и Пермский музей авиации. В прошлой статье мы начали разговор об идее создания «Политехнического музея…
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 166 comments
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →