Вероятность ошибки

— История создания андроидов вымощена десятками человеческих жизней сложенными на алтарь собственных ошибок, пустых надежд и переоценённых возможностей.

Этой дежурной фразой Эл начинал свою двухчасовую лекцию посвящённую взаимоотношению человека и машины. Несколько лет назад его сняли с полётов отправив делиться опытом в Московский университет астронавтики. Здесь готовили будущих штурманов и пилотов звёздных кораблей.
 — Пытаясь уйти от ошибок вызванных человеческим фактором, люди старательно развивали технику, перекладывая на машину всю ответственность за собственные жизни. При этом забывая один небольшой, но очень важный момент. Слабый по своей сути и склонный к ошибкам человек никогда не сможет создать идеальную машину. Все промахи, просчёты и недоделки, невольно вложенные в своё создание, он стыдливо называет вероятностью ошибки. Неверное поведение андроидов в нештатных ситуациях повлёкшее за собой человеческие жертвы заставило пересмотреть их роль, внеся серьёзные коррективы в основные законы поведения.

В качестве примера Эл всегда подробно разбирал один из подобных случаев.

Это произошло более трёх лет назад. Звёздный корабль с исследовательской группой на борту после трёх месяцев пути вплотную приблизился к заданной цели. Прямо по курсу лежала недавно открытая планета. По мнению многих учёных она была вполне пригодна для жизни.

В состав группы помимо девяти человек входил андроид серии R03 I-AL9082. Выполняя обязанности техника и помощника капитана, он отвечал за жизнеспособность корабля. Вероятность ошибки в действиях подобных андроидов составляла всего лишь один процент. То есть в одном случае из ста он мог поступить неверно.

Уже выходя на орбиту, они случайно столкнулись с метеоритом. Вынырнув из чёрной пустоты, космическое тело размером с футбольный мяч насквозь прошило обшивку корабля. Была нарушена герметизация, выведен из строя спасательный катер и почти все системы управления.

Согласно трём основным законам поведения андроид никогда не сможет причинить вред человеку. Его жизнь для него бесценна и ничто не сможет нарушить данное утверждение. Опираясь на эти законы, андроид пришёл к единственному выводу. Дальнейшая сохранность жизни людей напрямую зависела от жизнеспособности корабля. Включив ручное управление, андроид посадил корабль на поверхность планеты. Их создавали с прицелом именно под такие моменты. В критической ситуации, когда счёт идёт буквально на минуты неподготовленный человек очень часто впадает в панику. Работающий по заданной программе андроид, быстро просчитав все возможные варианты, действует стремительно и, не мешкая.

Прибывшая через несколько месяцев команда спасателей обнаружила почти полностью отремонтированный корабль. Из всей группы уцелел лишь один андроид. Действуя согласно заданной программы он полностью восстановил обшивку вернув работоспособность всем системам.

Как потом показало проведённое расследование, люди погибли ещё при посадке. Выключившаяся система торможения и компенсации плюс незначительная ошибка в расчете глиссады. Перегрузка в несколько десятков g просто размазала человеческие тела в неработающих амортизационных креслах. У андроида не было программы позволяющей отличить мёртвого человека от живого. Даже не подозревая, что вся команда мертва андроид ремонтировал корабль, послушно следуя своей основной программе.

В аудитории стояла напряжённая тишина. Эл был хорошим рассказчиком. Передавая в мельчайших деталях картину происшедшего, он вызывал у слушателей чувство причастности и сопереживания.
 — Прежде чем мы перейдём к обсуждению хочу внести небольшую ясность, — заложив руки за спину, Эл неторопясь прошёлся перед аудиторией, — этот андроид был заурядной машиной со своим процентом вероятности ошибки. Так что не стоит удивляться тому, что он просчитался. Те, кто расследовал этот случай, были простыми людьми. Они не стали принимать во внимание вероятность ошибки обвинив во всём андроида.
 — Вам не кажется это циничным, рассуждать о вероятности ошибки андроида забывая, что за ней стоят человеческие жизни? — кто-то эмоционально выкрикнул с места.

Эл усмехнулся.
 — Если машина созданная руками человека начинает действовать неправильно, то чья в этом вина? — громко спросил он.

Аудитория притихла.
 — Вероятность подобной ошибки в своё творение заложил сам человек. Вернее он не смог её исключить. А когда это произошло, обвинили во всём андроида. Так я повторю, чья в этом вина?

Студенты, молча, переглядывались. Выдержав небольшую паузу, Эл окинул взглядом аудиторию.
 — В свете изложенных фактов предлагаю всем подумать и ответить чем опасны андроиды для человека?

После подобного вопроса среди студентов всегда возникало небольшое замешательство. Не зная, что ответить они перешептывались, косясь на преподавателя. Эл терпеливо ждал.
 — Это невозможно, — наконец кто-то из студентов несмело подал голос.

Перестав прохаживаться, Эл остановился.
 — Почему? — поинтересовался он, окидывая взглядом аудиторию, — смелее! Вы же будущие пилоты. Учитесь принимать решения и высказывать своё мнение.

С задних рядов поднялся худощавый парень.
 — Это невозможно, — повторил он, — согласно трём основным законам андроид никогда не причинит вред человеку. Если он случайно ошибся, неправильно оценив обстановку, то это не значит, что андроид опасен для человека.
 — Кто думает иначе? — громко спросил Эл.

В третьем ряду поднялась симпатичная девушка.
 — Инга Морозова, — представилась она.

Её фамилия неприятно кольнула Эла. Может просто совпадение?
 — Бесшумные механические шарниры, новые композиционные материалы, искусственные волосы, тщательно проработанная мимика лица — всё это превращает андроида в точную копию человека. Добавьте сюда быстроту и смелость в принятии решений и перед вами харизматическая личность с задатками лидера. Общаясь с андроидом, человек невольно попадает под его влияние, забывая, что перед ним машина со своим процентом вероятности ошибки. В критический момент, потеряв контроль над ситуацией, свою растерянность и страх человек с лёгкостью перекладывает на плечи андроида, доверяя ему в принятии важных решений. Что как показывает статистика за последние несколько лет, в одном случае из ста приводило к несчастным случаям, — чётко отчеканила Инга.

Слишком чётко для человека и не совсем для андроида. Впрочем…
 — Откуда такая осведомлённость? — поинтересовался Эл.
 — Читала кое-что, — неопределённо пожала плечами Инга.
 — Совершенно верно, — подвёл черту Эл, — андроиды серии R03 I-AL9082 благодаря конструктивным материалам, полностью воссоздающим человеческое тело, получили наибольшее распространение. Как выяснилось в ходе эксплуатации, у них есть два больших минуса. Первый — это внешность, благодаря которой люди им безоговорочно доверяют. Второй — программа поведения со слишком большими полномочиями. В нештатной ситуации машина брала на себя ответственность, самостоятельно принимая решение, что хоть и редко, но всё же приводило к несчастным случаям.

Аудитория возбуждённо загалдела. С мест стали раздаваться отдельные выкрики.
 — Андроиды этой серии получили наибольшее распространение, — громко сказал уже знакомый парень, — если они так опасны, почему их не изъяли из обращения?

Стараясь утихомирить студентов, Эл поднял руку.
 — Андроиды серии R03 I-AL9082 наделены искусственным интеллектом, а значит, способны осознавать свои ошибки и учиться. К тому же конструкторы внесли изменения в их программу поведения, сделав андроидов более человечными. Теперь в критической ситуации они быстро просчитают возможные варианты выхода, оставив право выбора за человеком. В этой спарке он по-прежнему главный.
 — А что стало с тем андроидом? — выкрикнула какая-то девушка с места.
 — Не знаю, — сухо ответил Эл, — возможно дезактивировали. Если у вас больше нет вопросов, то можете быть свободны.

Стоя у доски Эл наблюдал, как медленно пустеет аудитория. Последней у выхода задержалась Инга. Потоптавшись на пороге, она вернулась.
 — Вы что-то хотели? — поинтересовался Эл, видя её смущение.
 — Александр Морозов — капитан погибшей группы, мой отец, — тихо сказала Инга, — вы спрашивали, откуда такая осведомлённость. После его гибели я много читала о взаимоотношениях андроида и человека.

Выходит не совпадение.
 — Ну и каково ваше мнение?
 — Не знаю, — честно ответила Инга, — для объективного суждения надо хорошо знать сложившуюся ситуацию. Я читала выводы комиссии, но там всё очень расплывчато. Возможно, андроид всё правильно просчитал, и другого выхода у него просто не было. Если мой отец ему доверился, выходит он очень хорошо его знал.

Не зная как закончить разговор, Инга неловко замолчала.
 — Наверно ваш отец был хорошим человеком, раз у него такая дочь, — сказал Эл.
 — Спасибо, — Инга порывисто сжала его руку.

Она уже давно убежала, а он всё стоял, ощущая на ладони теплоту её пальцев. Покинув аудиторию, Эл вошёл в свой маленький кабинет по размеру больше напоминающий кладовку. Скрестив на груди руки, остановился у окна.

За три месяца полёта они стали настоящими друзьями. Девять членов группы и андроид серии R03 I-AL9082. Это Санька Морозов окрестил его Элом. Пытаясь спасти своих друзей, он неверно оценил ситуацию и ошибся. Заклеймённый смертью среди андроидов Эл стал изгоем, да и в мире людей не смог найти своего места.

После той злосчастной катастрофы его хотели дезактивировать. Но посчитав хранящиеся в его электронных мозгах подробные сведения о катастрофе слишком ценными, Эла перепрограммировали, отправив в Московский университет делиться опытом со студентами. Люди сделали его слишком человечным. Предвидя вопросы о дальнейшей судьбе андроида, его нейроны всякий раз замирали, давая сбой программы. Это чувство было сравнимо с ёканьем человеческого сердца. Завтра он пойдёт к руководству и попросит сделать его грубее. Слишком велика тяжесть носимых им знаний. Это невыносимо осознавать себя виновником в гибели человеческих жизней — самого ценного, что есть в мёртвой пустоте бескрайних просторов Вселенной.

Его нейроны носились словно сумасшедшие. Эл чувствовал, как от их действия микрочипы постепенно разогреваются, уверенно набирая температуру. Он не мог остановить это, а может, просто не хотел.

Эла обнаружили на следующий день. Он стоял перед окном всё в той же позе со скрещёнными на груди руками. Его взгляд потух. Вопрос сам он это сделал или нет, так и остался открытым. Когда Эла вскрыли, то обнаружилось, что все файлы безвозвратно удалены, а процессор, карта памяти и жёсткие диски расплавились от высокой температуры. Их словно выжег кто-то изнутри.

Комментарии

Навигация

Поиск

Октябрь 2017
Пн Вт Ср Чт Пт Сб Вс
« Фев    
 1
2345678
9101112131415
16171819202122
23242526272829
3031  

Облако меток

Новые комментарии

Новое на блоге