Концепция технологической сингулярности в современной науке

Технологическая сингулярность в науке. ...

Введение
I. Что такое сингулярность?
II. Что такое искусственный интеллект?
III. Симптомы сингулярности
IV. Пути к сингулярности и от нее
V. Последствия сингулярности
VI. Сингулярность без искусственного интеллекта
Заключение
Список литературы

Актуальность данной темы сложно переоценить, ведь технологический прогресс – имя нарицательное нашего века, а революции в этом непрерывно эволюционирующем мире техники – дело довольно привычное. Посему можно заключить, что актуальность моего исследования заключена главным образом в важности осмысления многогранной проблемы технологизации общества, что и ставит на повестку дня вопрос о технологической сингулярности. Потому чрезвычайно актуальным представляется философско-концептуальный анализ существующих современных технологических парадигм, предпринятый в данном исследовании.
Проблематика технологической сингулярности, оказавшись в центре внимания ученых, философов и исследователей в середине XX века, до сих пор не является разработанной в достаточной мере. Но стоит сказать, что существуе т довольно обширный пласт работ в данной области, без учета которых данная работа носила бы незавершенный характер. Среди наиболее влиятельных фигур, заложивших фундамент анализа данной парадигмы, на работы которых я буду опираться в своем аналитическом исследовании, назовем М. Хайдеггера, В. Винджа, Р. Пенроуза, Э. Дрекслера и др.

Тьюринг предложил тест, который позволил бы определить, является ли испытуемое нечто думающим или нет. Суть теста состояла в том, что судья (человек) переписывался на естественном языке с двумя собеседниками, один из которых – также живой человек, а второй – компьютер. В случае если судья не в состоянии надежно определить, кто есть кто, компьютер тест проходит. Тест был завуалирован под салонную игру, в ходе которой гости пытались угадать пол человека, находящегося в другой комнате, путем написания вопросов и чтения ответов. В 1964 году крупным американским кибернетиком Дж. Вейценбаумом была создана программа «Элиза», имитирующая поведение психиатра. Пациенты, с которыми беседовала эта программа, в большинстве случаев были уверены, что общаются с врачом, но успех этой программы никогоне смог заставить считать ее искусственным интеллектом. И стоит отметить, до сих пор ни одна программа и близко не подошла к прохождению теста. Да, программы вроде «Элизы» порой заставляли людей верить, будто те общаются с человеком, но такие «успехи» не являются прохождением теста Тьюринга. Во-первых, человек в таких беседах не имел никаких оснований считать, что он говорит с программой, в то время как в настоящем тесте Тьюринга человек активно пытается определить, с кем он беседует. Во-вторых, документированные случаи обычно относятся к таким чатам, как IRC, где многие беседы отрывочны и бессмысленны. В-третьих, многие пользователи IRC используют английский как второй или третий язык, и бессмысленный ответ программы, вероятно, спишется ими на языковый барьер. В-четвертых, многие пользователи ничего не знают об «Элизе» и ей подобных программах, потому не могут распознать совершенно нечеловеческие ошибки, которые эти программы допускают. На этих основаниях против теста Тьюринга было выдвинуто несколько возражений:машина, прошедшая тест, необязательно является разумной, она вполне может следовать определенному хитрому набору правил и алгоритмов;машина может обладать разумом и не умея разговаривать, как человек;некоторые разумные люди могут провалить этот тест;если тест Тьюринга проверяет наличие разумности, то он никак не проверяет наличие сознания и свободы воли, а значит, тест Тьюринга не в состоянии уловить важных различий между разумными людьми и разумными машинами.И ведь это еще далеко не все, в сущности ситуация еще более непонятна и запутана. Понятие интеллекта кажется неуловимым. Весьма остроумно можно по этому поводу сказать: «За неимением более точного определения машинного интеллекта его можно охарактеризовать словами: «Точного определения я дать не могу, но всегда смогу узнать, когда увижу». Довольно комичное это определение, тем не менее, кажется наиболее ясным для данного реферата, а в заключение этого небольшого экскурса в понятие искусственного интеллекта, стоит отметить, что данный термин и различные от него производные и модификации сейчас употребляются настолько часто, что мы даже не замечаем всей их парадоксальности. Как вообще может быть осмысленным определение «искусственный интеллект», если оно в сущности есть противоречие в определении? Симптомы сингулярностиЕще в 60-е – 80-е гг. прошлого столетия осознание того, что грядет некий технологический катаклизм, неустанно росло. Вероятно, первыми почувствовали это влияние писатели-фантасты, ведь именно научной фантастике положено предсказывать, чем обернется та или иная технология в будущем. И если раньше воображение с легкостью уносило нас на миллионы и даже миллиарды лет вперед, то теперь наибольшее количество прогнозов относится к ближайшему и неизведанному завтра, и писатели изобрели множество уловок для того, чтобы не связываться с разумными машинами в своих сюжетах. Тем временем, машинный разум и по сей день не создан, а вездесущие критики его то и дело заявляют, что искусственным интеллектом давно занимаются, но он так и не родился на свет. Но многие задачи, которые относятся к области вопросов изобретения искусственного интеллекта были уже решены. Например, задача распознавания образов уже давно не входит в область чисто научных исследований, и на сегодняшний день существует достаточное количество коммерческих продуктов, занимающихся распознаванием печатного и рукописного текстов, и со своими задачами эти продукты хорошо справляются. Только вот люди хотят от них все большего и большего, и получается в итоге, что общество в целом считает, что задача распознавания образов не решена, потому что можно сделать лучше, потому что сам человек может лучше.Можно вспомнить о том, что еще на заре развития компьютеров попытки построения искусственного интеллекта окончились ничем, уменьшились денежные дотации на развитие данной области научного знания, ряды энтузиастов совсем поредели, но результат был довольно закономерным. Иные мощи компьютеров, иные требования к ним, сокращение бюджета на дальнейшее развитие – все это сильно затормозило прогресс данной ветви компьютерного знания. Но сейчас ситуация диаметрально противоположна былой: существенно большие мощности стали доступны практически каждому, и нам следует ожидать дальнейшего прогресса. И с течением времени мы будем наблюдать все больше и больше «симптомов». Дилемма, которую прочувствовали фантасты, станет восприниматься в контексте творческих усилий иного рода. Мы станем свидетелями того, как постепенно будут автоматизироваться задачи все более высокого уровня. Уже сейчас существуют инструменты, освобождающие нас от большинства нудной рутины. Но у всего этого есть и обратная сторона: истинно производительный труд становится уделом стабильно сокращающейся узкой элиты человечества, и с пришествием сингулярности мы станем свидетелями того, как сбываются прогнозы о настоящей техногенной безработице.А каким же будет наступление самой сингулярности? Поскольку дело касается интеллектуального разгона, вероятно, это окажется самой стремительной технической революцией из всех нам известных. Ждать этого не будет никто, даже те, кто непосредственно вовлечен в сам «творческий процесс», а потом – внезапно – мы все проснемся в постчеловеческой эре? Вероятно, это есть самое слабое место в идее искусственного интеллекта. Принято думать, что однажды возникнув, искусственный интеллект заменит естественный, хотя четкого представления о том, каким образом возможен подобный качественный скачок от искусственного инструмента к чему-то, способному к творческой конкуренции с человеком нет, но несмотря ни на что кинематографисты и писатели тему эту не бросают. А значит, волнует она людей немало. И быть может, небезосновательно?Пути к сингулярности и от нееНикто, тем не менее, не полагает, что этот самый момент – сингулярность – непременно наступит, в связи с чем зачастую упоминаются некоторые мысли по поводу непрактичности искусственного интеллекта. Так, мы вполне никогда можем не дожить до сингулярности, попросту потому что, к примеру, поймем, что кривые производительности нашего аппаратного обеспечения начнут сглаживаться из-за нашей неспособности автоматизировать конструкторскую работу по разработке дальнейших усовершенствований аппаратных средств. И все окончится неким очень мощным компьютером, но без возможности прогресса в дальнейшем. Коммерческая цифровая обработка сигналов будет восхитительна, обеспечивая аналоговый выход, сравнимый с цифровыми операциями, но "сознание" не пробудится, а интеллектуальный разгон, являющий собой самую суть сингулярности, так и начнется. И такое положение вещей, вероятно, следует рассматривать как Золотой век человечеств – суть – и конец прогресса.А вот еще один весомый аргумент против возможности технологической сингулярности: даже если мы сумеем создать компьютеры с необходимой аппаратной мощью, может и не получиться организовать имеющиеся компоненты таким образом, чтобы машина обрела сверхчеловеческий разум. Вероятность того, что сложность программного обеспечения вырастет настолько, что не останется никакой возможности с ней совладать, также имеет место быть. Разумеется, попытки запустить более крупные проекты будут предприниматься, но программирование не справится с поставленными задачами, а значит, мы не получим необходимых решений биологических моделей, которые могли бы помочь реализовать обучение и «эмбриональное развитие» машин. И это ужасно. Это означает огромное количество программ, полезность которых мала, а количество оных все растет и растет…Тем не менее, если технологической сингулярности все-таки суждено наступить, она обязательно случится. Даже если все человечество разом вдруг опознает в ней угрозу своему существованию, технологический прогресс все равно не замедлит свой ход. Конкурентное преимущество любого достижения в средствах автоматизации является настолько непреодолимым, что запрещение подобных технологий просто гарантирует, что кто-то другой освоит их первым.Э. Дрекслер составил впечатляющие прогнозы развития и совершенствования технических средств. Он соглашается с тем, что появление сверхчеловеческого разума станет возможно в ближайшем будущем, но в то же время утверждает, что человечество способно удерживать контроль над столь сверхчеловеческими устройствами, чтобы результаты их работы можно было оценить и надежно использовать. В противовес этому мнению, В. Виндж говорит, что контроль сохранить будет невозможно, а в качестве мысленного эксперимента предлагает представить себя запертым в собственном доме с единственным каналом доступа к информации, который ограничен некими хозяевами. Если бы хозяева мыслили со скоростью в миллион раз меньшей, чем Вы, несомненно, спустя несколько лет Вашего времени, Вы изобрели бы способ побега, не так ли? Виндж называет эту быстро мыслящую форму сверхразума «слабым сверхчеловеческим». Такая сущность очень сильно ускорила бы течение времени эквивалентного человеческого ума. Что из себя будет представлять «сильное сверхчеловеческое», сказать трудно, но различия будут разительны. И тут возникает вопрос о пользе такого разума для человека. В качестве примера представим себе собаку с многократно ускорившейся работой мысли. Тысячелетний опыт собачьего мышления, что он может дать человечеству? Вообще очень многие предположения о сверхразуме делаются исходя из модели «слабого сверхчеловеческого», но Виндж считает, что наиболее верные догадки о постсингулярном мире можно делать на предположениях об устройстве «сильного сверхчеловеческого». Вторым подходом к решению проблемы контроля является идея создания жестко заданных ограничений свободы действия сверхчеловеческих сущностей. Яркий пример – Законы робототехники Азимова. Все они приводят к сужению возможностей устройств, по сравнению с устройствами без ограничений. А значит, конкуренция будет способствовать развитию менее ограниченных, а, следовательно, более опасных моделей.Последствия сингулярностиПредположим все же, что сингулярность предотвратить и ограничить нельзя, какой в таком случае будет постчеловеческая эра? Одно из возможных последствий – физическое вымирание человечества. Например, Э. Дрекслер, говоря о нанотехнологиях, утверждает, что со всеми подобными техническими возможностями, правительства, вероятно, решат, что простые граждане им не к чему. Однако физическое вымирание – не самое страшное, что может случиться, хотя казалось бы? А давайте вспомним братьев наших меньших и отношение к ним. В постчеловеческую эру найдется достаточно ниш, где человек будет востребован, а значит, сохранен как вид. А В. Виндж напоминает, что несмотря на то, что предотвратить сингулярность мы не сможем, все-таки ее инициаторами выступаем мы сами, а значит, в нашей власти изменить начальные условия этого неуправляемого процесса таким образом, чтобы все происходило с минимальным для нас ущербом. А будет ли прок от предвидения и планирования зависит от того, будет ли переход к сингулярности резким или тихим. Резкий переход – это тот, при котором сдвиг к сверхчеловеческому контролю произойдет за несколько сотен часов. Спланировать такой переход сложно, ясное дело. А вот тихий переход может занять десятки лет, и в такой ситуации возможно вдумчивое планирование и даже эксперименты.Сингулярность без искусственного интеллектаЧаще всего, когда кто-либо говорит о существах со сверхчеловеческим разумом, он подразумевает проект по созданию искусственного интеллекта. Однако В. Виндж отметчает и иные подходы к сверхчеловеческому. Так, компьютерные сети и человеко-машинные интерфейсы, хотя и кажущиеся более приземленными, тем не менее, могут привести к сингулярности. По Винджу, данный противоречивый подход называется «усилением интеллекта». Протекает сей процесс вполне естественно, и его не осознают даже разработчики. Однако всякий раз, когда улучшаются наши возможности доступа к информации и передачи ее другим, в каком-то смысле мы достигаем прироста по отношению к природному интеллекту. Дуэт знающего мыслящего человека и простой рабочей станции способен, по-видимому, сдать любой письменный тест.Вполне возможно, что «усиление интеллекта» является наиболее легким путем к достижению сверхчеловеческого, нежели искусственный интеллект в чистом виде. В том, что касается людей, сложнейшие проблемы развития уже решены. Постепенное создание умных систем на основе имеющихся у человека способностей представляется более легким, чем выяснение истинной сути людей и затем уже постройка аналогичных им интеллектуальных машин. Виндж вовсе не предлагает игнорировать работы по созданию искусственного интеллекта, но полагает, что достижения в области его разработки будут находить применение в «усилении интеллекта», и наоборот.