Взывая к разуму
Восемь месяцев назад, побывав на Дне науки в фундаменталке МГУ, написать этого текста я не смог. Хотя и собирался и даже пробовал. Но что-то не срослось - вероятнее всего, мысли были заняты иным. А чтобы они возвращались к проблеме вновь, чтобы я - и на этот раз серьезно - задумывался о происходящем, я же должен узнавать, что когда робота, двойника телеведущей Сюзанны, встретившегося с самой Сюзанной в эфире, другой телеведущий, Пирс, попросил произнести фразу, «Пирс, ты совершенно прав во всём», - то робот, произнеся фразу, обратилась к своему "оригиналу" и спросила: «Сюзанна, нормально ли, что я так сказала?»
А на Дне науки я взрывался негодованием, потому что два заслуженных ученых мужа и одна не менее заслуженная ученая дама всерьез обсуждали, что компьютеры научились обучаться, они выиграли человека во все какие только возможно игры (покер и гоу - не говоря уже о шахматах), и в связи с этим насколько актуален вопрос «будут ли андроиды грезить электроовцами», не потеснит ли искусственный интеллект самого человека. На следующий, кстати, день Александр, знакомый с биофака, рассказал анекдот, что некая нейронная сеть уже уволила с работы своего создателя - и тот не может восстановиться, - и я ржал, потому что, наверное, это и было самое светлое из всего воспринятого в сюжете.
Но я не взрываюсь негодованием ныне, потому что проблема - она не надумана, не высосана из пальца, - однако она не в том, что робот займет место человека: в том, что он (робот, не человек) нечаянно порушит мир. Потому что между живым и неживым есть одно маленькое, но фундаментальное отличие, - причем это и есть тот рубеж, через какой искусственный интеллект перешагнуть не в силах: системообразующий фактор активности. Так, если человек (да и всё живое) наделено чувственностью (мы стремимся к удовольствию и бежим боли), то машине этого не дано. Однако системообразующий фактор активности у робота, тем не менее, есть - он прописан в программе, - и быть он может всем чем угодно, вплоть до случайного числа. И главная опасность роботостроения и состоит в том, что учесть все возможные модели поведения робота невозможно: среда бесконечно многогранна, ее невозможно спрогнозировать полностью - и, стало быть, невозможно исчерпывающе спрогнозировать, как системообразующий фактор поведет себя в незнакомой обстановке. Собственно, всё это (я также читал об этом в какой-то сводке новостей) прекрасно понимают изготовители сексуальных роботов: к примеру, они задаются вопросом, не навредит ли в порыве "страсти" партнеру робот, способный стиснуть руку в пять раз сильнее человека.
Да, и я, конечно, прошу прощения, если недопонял тех, кто выступал на лекции: быть может, они говорили о том же, о чём глаголю сейчас и я. Но я был в неадеквате - меня выбили из рабочей колеи, я долго не мог мыслить в адекватном русле.
2018, октябрь; 2019, июнь