Кто к нам с чем зачем, тот от того и того!


Previous Entry Share Next Entry
Тревожные мысли об искусственном интеллекте
facepalm
kamrad2213


То, что рисуется под названием "искусственный интеллект" в фантастике, я считаю, правильнее было бы назвать "искусственной личностью". Потому что искусственный интеллект - это как "искусственная храбрость" или "искусственная ловкость" - нечто странное, на мой взгляд. Если бы назвали "искусственный мозг" - было бы понятно. Они, искусственные мозги, уже есть в большом количестве.

Видимо, это такое наследие Модерна, для которого характерно преувеличение роли Разума, преклонение перед разумом и т.д. В итоге весь человек как бы сводится к его разуму. Возьмем тест Тьюринга. Может ли машина пройти его, если она в добавок к ИИ не будет обладать искусственными эмоциями, искусственными ощущениями, искусственным юмором, искусственными инстинктами и т.д.? А как быть с искусственной системой ценностей? Можно ли, не обладая всем этим, убедить людей, что ты не машина, а человек? Думаю, нет (если конечно, сами люди, участвующие в тесте, будут достаточно взыскательны).

Можно ли создать такую машину? Уверен, что да. Но, скорее всего, нескоро. Для этого сперва нужно понять как устроен человек, его сознание. А до этого, подозреваю, ещё далеко. Т.е. не разработана предметная область. А без этого нет нормального, простите, тех.задания. А без тех. задания не может быть результата. Есть только успехи в решении отдельных прикладных задач. Внушительные порой, но ограниченные.

Другой вопрос, что, действительно, будет с человеком, после того, как появится искусственная личность, которая будет обладать потенциально безграничными возможностями: абсолютная память, точность, сила, органы чувств такие, каких у нас просто нет, и т.д.

Точнее, тревожит даже не это. Самое тревожное, что такая личность, если её существование возможно (а я убежден, что возможно), потенциально будет и в моральном, культурном и всех других "духовных" (долго думал, нужны ли тут кавычки) аспектах опережать человека. Что помешает создателям настроить систему так, чтобы она не зависела (так сильно, как человек, или вообще) от низменных животных позывов (которые, конечно, тоже можно смоделировать)? Что помешает создателям вложить в "голову" такой машины самую гуманистичную идеологию, самые глубокие смыслы, абсолютное самопожертвование и т.д.?

Коли мы гуманисты, то как мы должны относится к такой возможности? И можем ли мы её отрицать? Можем ли мы отрицать способность человека создать кого-то принципиально более совершенного, чем он сам, если мы гуманисты и считаем, что для него нет ничего невозможного?

Это гораздо более тревожные вопросы, чем страшилки про "Скайнет".


promo kamrad2213 september 3, 2014 14:01 15
Buy for 20 tokens
Продолжаю выкладывать материалы о настоящих пермских музеях, которым есть что показать, в отличие от. Другие: музей авиации и космонавтики Пермского авиационного техникума и Пермский музей авиации. В прошлой статье мы начали разговор об идее создания «Политехнического музея…

Хорошие вопросы. :)

(Deleted comment)
Кто сказал, что для создания искусственного интеллекта необходимо полностью и досконально изучить самого человека и что искусственный интеллект должен полностью соответствовать человеческому? Мощному компьютеру задать определенные алгоритмы саморазвития и самосовершенствования и будет искусственный интеллект.
Недавно посмотрел фильм "Из машины" как раз на эту тему, который оставил гнусный осадок.

Теорема Геделя о неполноте, не позволит

Личность создать невозможно, можно создать имитацию личности.

Модель, да. Речь о том, что если эта модель будет вести себя как человек или лучше, то можно по-прежнему, конечно, называть её "всего лишь моделью". Но поднятого вопроса это не разрешит.

Я думаю, технологический прогресс - это путь по которому идет гуманизм.

Мы и так постоянно занимаемся усовершенствованием себя - теперь мы дольше живем (чем за 1000 лет до), быстрее перемещаемся, имеем возможность заменить руку на металлическую. ЕСли однажды мы станем не органическими, это даст нам большие возможности. Например, мы перестанем нуждаться в еде, а значит в убийстве животных. А это очень гуманистично.

Edited at 2015-11-25 02:10 pm (UTC)

... смешались в кучу кони, люди ...
Вы собрали все вместе и от этого запутались, хотя и ходите очень близко.
В самом ИИ нет ничего сложного, как нет ничего сложного в человеческом разуме. Есть раздражитель, есть действие на него. А вот то каким образом принимается решение о действии - вот это интересно. У человека на процесс принятия решения действует множество факторов которые лежат как в области осознанного, так и в области бессознательного. По сути своей это бессознательное и делает человека человеком. ИИ в текущем виде не обладает бессознательной областью данных, но! Но может содержать "призрака в машине" - или по-нашему баг. Баг может быть вызван как аппаратными проблемами, так и архитектурными и "человеческими" факторами. При этом именно наличие багов и дает ИИ в какой-то момент времени выбрать действие которое противоречит логике и которое может привести к катастрофе.
ИИ может пройти тест Тьюринга, его не могут пройти люди которые проектируют ИИ. Потому что для того что бы ИИ имел достаточное количество данных для принятия решений наиболее близких к действиям человека он (ИИ) должен уметь обучатся и должен содержать в себе баги. Но такой ИИ как раз и становиться личностью и отнюдь не "искусственной", но "синтетической". Время, время потраченное на обучение и ограничения в вычислительных мощностях - вот что отделяет нас от создания ИИ. Но чем больше и сложнее система тем больше в ней багов. А баги ведут к катастрофе. Так что ИИ не стоит боятся, надо боятся людей которые делают ошибки в при создании ИИ.

Есть большая путанница с понятиями. "Искусственный интеллект" - это такая область в, грубо говоря, программировании. Там есть несколько интересных решений и они давно работают. Экспертные системы, конечные автоматы, нейросети - у всех них есть четкие области применения. Но вот "искусственного разума", личности, индивидуальности - этого нет и не будет. Нет матаппарата, нет понятийной базы, нет даже осколка представления о том, чего не хватает уже работающим ИИ, чтобы "ожить". Большинство людей даже не понимают, что вообще может быть отличие "разума" от "интеллекта", что это линейнонезависимые феномены.

Мой любимый пример - мультипликационный динозавр. Он может быть нарисован углем на стене пещеры, карандашом в скетчбуке, краской на целлулоиде. Его можно сделать интерактивным, он будет ходить по экрану, разговаривать, он будет цветной и даже объемный. Можно потратить огромное число человеко-лет, вложив в эту имитацию все наши знания о биологии и бихевиоризме динозавра и создать нечто, никаким способом неотличимое от динозавра. Но как мы не совершенствуй этот мультик/аниматрон/проекцию - такой динозавр не оживет. Это все равно будет лишь имитация зверушки.

Та же проблема с ИИ. Все что мы делаем - повторюсь, умело и с пониманием - сводится к имитации действий человека. Не образа мысли, не "души", не разума. А просто все более усложняющийся набор правил "в такой-то ситуации действуй так-то", основанных на том, как в такой же ситуации действовал бы человек. И все. Дальше ничего нет. И еще долго не будет.

Если из этого нагромождения правил, шаблонов поведения и инструкций и родится разум, он не будет искусственным, ибо мы не знаем как его создать и хрен повторим. Это будет какая-то запущенная наугад эволюция, которая может и приведет к каким-то результатам - как у тех перепечатывающих Шекспира мартышек.

Кстати, машина не может пройти тест Тьюринга по определению, равно как и человек не может его завалить. Это все же не ЭГЕ. Это гипотетический набор тестов, который безусловно отличит человека от машины. Если ваши конкретные вопросы отличий не выявили, значит надо менять методологию. Ну понимаете - как "тест на беременность" - совершенно не важно какие там принципы диагностики. "Тест на беременность" - это тест или совокупность тестов, позволяющие определить беременный перед нами человек или нет. Если он начинает выдавать положительный результат, будучи примененным к самцам кольчатых червей - значит он просто методологически неверен, и называть его "тестом на беременность" неверно.

Интеллект - ум. вполне таки железный.
А прочие причиндалы: эмоции, разум, смекалка и интуиция - сиим проектом машинизации не охвачены.
Рановато пока.
Нам бы до ума докопаться...

у Стругацих было что-то вроде "если кто-то придумает из самых лучших побуждений мясокрутку , то кто-нить другой начнёт в неё руки пытаемых засовывать".

Первое что сделает себе робот с ИИ - оторвет сам себе голову.
Ну подумайте, каково осознавать, что ты бессмертен? Робот теряет существенную часть мотиваций, которые есть у человека по причине его смертности, естественной потребности в питье и еде, в потребности к размножению и т.д. Социум людей построен на тех же принципах.
В общем та железка, которая все таки овладеет философским наследие людей, все же таки сделает себе суицид ибо это единственное человечное, что может сделать робот, понимая что он робот.

Искусственный разум никому даром не нужен - 7 миллиардов естественных некуда девать.

А вот искусственного интеллекта явно недостача.

Это вопросы терминологии. Одно из значений - разум.

Да, интересный вопрос, нужно будет обсудить с товарищами.

Станислав Лем. Голем 14.

Вы вряд ли согласитесь со мной, но я уже довольно долго занимаюсь этим вопросом, и могу сказать что вопрос интеллекта столь же сложен как загадка жизни, и перспектива её разрешение даже не светится вдали. Если тема интересна, почитайте "Новый ум Короля" Пенроуза, лучше книги вам не найти. Мое лично мнение что когда существо под названием человек сможет создать тварный разум (а не механическое чучело коим являются все разработки без исключения) - оно просто уподобится Богу (или сольется с ним?), думаю создать звезду из вакуума проще чем это.

Спасибо за наводку!

Если устранить звериное совсем полностью ещё до рождения, то можно ли полученный результат сравнивать с человеком? Будет ли он способен понять и почувствовать человека? Будет ли он способен быть по-настоящему гуманистичным?

Да, это тоже большой вопрос. На самом деле, скорее всего полностью исключить не получится. Более того, на самом деле, скорее всего такую личностью тоже не получится просто вот так создать "с нуля", а придется воспитывать.

Собственно, главный вопрос даже не в том, можно ли создать такую личность с помощью программирования и конструирования. Может это будут вообще какие-то таинственные генные разработки или что-то ещё. Субстрат неважен.

?

Log in

No account? Create an account