на что должен опираться ответственный выбор новых технологий
Карьера как предчувствие: зачем нужна новая система профориентации
MAXIMUM Education — компания, специализирующаяся на сфере дополнительного образования школьников. Занимает четвертое место в рейтинге 35 крупнейших EdTech-проектов России по версии РБК.
По данным Атласа новых профессий, созданного Агентством стратегических инициатив (АСИ) совместно с инновационным центром «Сколково», к 2030 году появятся 186 новых профессий и 57 исчезнут. Даже такие вроде бы вечные специальности, как врач и учитель, меняются под влиянием бурного развития технологий. Как в таком многообразии ребенку выбрать, чем заниматься в будущем?
По результатам исследования, проведенного WorldSkills Russia при поддержке министерства просвещения, более 70% школьников не имеют представления о том, чем они собираются заниматься в жизни. И лишь 5% опрошенных уже определились с профессией. Эти цифры говорят о системной проблеме, которая должна решаться на разных уровнях: государства, рынка, общества и семьи.
Госзаказ на профессионалов
Сегодня основной вектор развития на рынке профориентации задает государство. Нехватка специалистов в конкретных областях, перекос внимания выпускников в сторону «хайповых» специальностей и повышение конкурентоспособности страны в сфере инноваций заставляют государство вкладывать бюджетные деньги в профессиональную ориентацию детей. И у него для этого есть как минимум два больших инструмента.
Самый понятный и очевидный — искусственное создание спроса на те или иные профессии путем регулирования количества бюджетных мест в высших и средних специальных учебных заведениях. Прогнозы по нехватке конкретных специалистов на горизонте от 5 до 20 лет дают возможность властям сделать обучение по проблемным направлениям максимально доступным. Напротив, переизбыток специалистов в той или иной отрасли в перспективе заставляет перераспределять бюджетные места, тем самым «отговаривая» выпускников от выбора этих направлений. Это понятный рабочий инструмент, но он не решает вопроса профессионального самоопределения отдельного человека, хоть и позволяет регулировать рынок труда.
Второй глобальный инструмент — создание и поддержка проектов, которые позволяют школьникам погружаться в различные профессии. Один из масштабных проектов — сеть технопарков «Кванториум». Это площадки дополнительного образования, оснащенные высокотехнологичным оборудованием и нацеленные на подготовку новых высококвалифицированных инженерных кадров, разработку, тестирование и внедрение инновационных технологий и идей. Планируется, что к 2024 году их будет 245 в 85 регионах страны, а также появятся 340 мобильных детских технопарков.
Еще один федеральный проект «Билет в будущее» помогает выявить, насколько осознанно подросток выбирает свой профессиональный путь. После прохождения тестирования школьникам предлагается поучаствовать в ознакомительных практических мероприятиях и профессиональных практикумах углубленного формата (например, экскурсии на чемпионаты профессионального мастерства и профориентационные фестивали, а также очные или онлайн-пробы с носителем профессиональных компетенций).
На региональных уровнях также развиваются различные государственные программы. Одной из них является проект департамента образования города Москвы «Профсреда», который предлагает школьнику пройти различные профессиональные пробы для получения не только гипотетического, но и практического представления о будущей работе. Площадки организованы на базах колледжей Москвы, поэтому в большей степени представлены рабочие специальности. Также в рамках проекта проводятся тренинги, мастер-классы и другие просветительские мероприятия.
Другой игрок — большие корпорации с их программами, нацеленными на формирование узнаваемости и построение HR-бренда у аудитории уже с подросткового возраста. В рамках своих акций, проводимых на федеральном и региональном уровнях, они не только знакомят школьников с конкретными профессиями, но и формируют желание пойти работать в конкретную компанию.
Кроме этого, есть еще и родители, которые переживают за будущее своих детей. При этом цели у них могут быть разные: одни озабочены больше выбором предметов для ЕГЭ, другие хотят помочь детям осознанно выбрать любимое дело.
В связи с этими запросами формируется рынок частных профориентационных услуг. Некоторые из них стараются последовательно развивать осознанный подход к выбору профессии, знакомя подростка с состоявшимися специалистами и профессиями, где можно применить свои качества и умения. Другие делают упор на посещение подростками компаний, банков, лабораторий, где в рамках экскурсии можно расспросить об особенностях их работы и узнать все подробности. Есть программы, заявляющие, что они готовы сделать выбор профессии за ребенка, выявив его интересы и способности, и на основе этого подобрать вузы.
Как измерить эффективность профориентации?
Измерять и оценивать эффективность использования вышеупомянутых инструментов можно с разных позиций. Иногда достаточно задать подростку несколько вопросов:
Если он отвечает на них уверенно, и его представления соответствуют реальности, значит профориентационная работа прошла успешно. При этом важно понимать, что абсолютной уверенности в выборе на этом этапе не может быть, так как подросток в любом случае выбирает из того, с чем близко еще никогда не сталкивался, а значит, не может со 100% уверенностью сказать, что ему подходит, а что нет.
Умения или призвание
«Только 27% процентов населения России работают по специальности», — таков неутешительный итог опроса Роструда. Как же помочь своему ребенку выбрать будущую профессию? И как понять, какие знания и навыки будут актуальны к моменту, когда он начнет работать?
Большинство родителей рассуждают так: «Мы привели к вам ребенка, заплатили деньги, скажите, какой ЕГЭ сдавать и куда поступать». Это самый популярный подход, который плодит сотни микро-бизнесов с разной степенью качества, отвечающих этим потребностям.
Проблема в том, что выбор, сделанный за ребенка с помощью тестов или экспресс-консультаций, не дает ему представления о будущей профессии и его пути в ней. В результате многие бросают учебу в вузе или, окончив его, идут работать не по специальности.
Поэтому появляется спрос на другой тип профориентации — персонализированный, благодаря которой ребенок сможет узнать свои сильные стороны, интересы, сформулировать жизненные цели, и на этой основе выбрать то, чем реально хочет заниматься.
И как показывает практика современных профориентационных проектов, именно развитие навыков и компетенций поможет ребенку стать конкурентоспособным в стремительно меняющемся мире.
Бурное развитие анализа данных, машинного обучения и других новейших технологий в образовании уже сейчас позволяет собирать и анализировать большое количество информации о каждом конкретном ученике. Цифровой образовательный след, который уже совсем скоро начнут собирать, начиная с рождения, поможет строить действительно индивидуальные образовательные траектории, опирающиеся на интересы и склонности ребенка.
Значит ли это, что уже в средних классах он будет понимать, кем станет? Пожалуй, что нет. Но, возможно, у ребенка будет перед глазами некая карта с различными траекториями его профессионального развития, а также инструментарий, позволяющий ему попробовать себя в разных сферах еще до окончания школы.
Чем опасно внедрение технологий с искусственным интеллектом
Долги «выбивал робот»
Недавно в Екатеринбурге долги из клиента «выбивал» робот-коллектор (об этом «РГ» писала на прошлой неделе). Причем, мужчина и не догадывался, что больше месяца разговаривал с искусственной интеллектуальной системой, настолько изобретательно были выстроены диалоги. Робот представился руководителем коллекторского агентства, назвав женское имя, фамилию и отчество, и приятным голосом отвечал на все вопросы, задавал уточняющие, и «настоятельно рекомендовал клиенту погасить долги».
При этом общеизвестно, что роботы сегодня могут разговаривать голосом любого из нас.
Почти по Оруэллу
Искусственный разум направил в пике
При этом известно, что даже малейшие просчеты в проектировании интеллектуальных систем могут приводить к катастрофическим последствиям уже сегодня.
Так, выяснилось, что из-за ошибочных показаний датчика и системы контроля полета самолеты Boeing-737 MAX могут сами неожиданно уходить в пике. Получив неверные вводные об обтекании крыла потоком воздуха, самолеты автоматически опускают нос вниз. Этот факт честно признали в компании после того, как Boeing-737 MAX-8 индонезийской авиакомпании Lion Air потерпел крушение в октябре 2018 года над морем у западного побережья острова Ява. На борту находились 189 человек, все погибли.
В Аризоне беспилотное авто от Uber сбило женщину, переходившую улицу в неположенном месте. В кресле водителя находился пилот-человек, но он не успел остановить машину. Эта авария стала первым смертельным ДТП с участием автомобиля, имеющего третий уровень автономности. Оказалось, лазерные радары машины распознали пешехода за целых 5,6 секунды до аварии. Но алгоритм решил не снижать скорость и начал экстренное торможение только за 0,2 секунды до столкновения.
Как переиграть роботов?
Впрочем, эта тема остается сегодня остро дискуссионной: и ученые, и разработчики, вероятно, не скоро придут к единому решению. Вот лишь несколько показательных мнений.
Валерий Карпов, вице-президент Российской ассоциации искусственного интеллекта, начальник лаборатории робототехники НИЦ «Курчатовский институт»:
Олег Кузнецов, председатель научного совета Российской ассоциации искусственного интеллекта, профессор ИПУ РАН:
— Третьей стороной, выступающей между философом и разработчиком, является законодатель. Проблема ответственности решается в правовом режиме. Кто-то должен подать иск об ущербе, и иск подается не разработчику. Ведь пользователь не знает, кто разработчик, и не обязан это знать, а предъявляет претензии тому, кто его обслуживает. При этом интеллектуальная система никогда не будет сама ответственна, в случае ошибки всегда будет виноват тот или иной конкретный человек.
Павел Готовцев, координатор российской Рабочей группы по этике искусственного интеллекта, заместитель начальника отдела биотехнологий и биоэнергетики НИЦ «Курчатовский институт»:
— Как и в любой ситуации, нельзя четко провести границу и сказать: «Всегда виноват пользователь или всегда виноват разработчик». Здесь этого не получится по многим причинам, как в любой другой технической системе. Например, при аварии самолета происходит разбирательство, кто виноват ― производитель, авиакомпания, пилот. И здесь нужна такая же граница. В принципе, когда возникает какая-то сложная, технически обусловленная ситуация, естественно, собирают технических специалистов, анализируют, проводят в сертифицированных центрах исследования, анализ. Аналогично должно быть и с системами искусственного интеллекта.
Роман Душкин, директор по науке и технологиям Агентства искусственного интеллекта:
Андрей Незнамов, исполнительный директор ПАО «Сбербанк»; основатель проекта «Робоправо», старший научный сотрудник Института государства и права РАН:
— У термина «искусственный интеллект» нет единого определения; поэтому достаточно сложно говорить о единых правилах применения искусственного интеллекта во всех сферах. Соответственно, вопрос ответственности также нельзя решить однозначно. На сегодняшний день универсальным можно назвать только одно правило: ответственность несет человек.
— Сейчас во всем мире разворачивается дискуссия о социальных аспектах и последствиях использования искусственного интеллекта, это очень важная тема. Предлагаю профессиональному сообществу, компаниям подумать над формированием свода этических правил взаимодействия человека с искусственным интеллектом.
Искусственный разум убивает
Даже малейшие просчеты в проектировании интеллектуальных систем могут приводить к катастрофическим последствиям уже сегодня. Так, выяснилось, что из-за ошибочных показаний датчика и системы контроля полета самолеты Boeing 737 MAX могут сами неожиданно уходить в пике. Получив неверные вводные об обтекании крыла потоком воздуха, самолеты автоматически опускают нос вниз. Этот факт честно признали в компании после того, как Boeing 737 MAX 8 индонезийской авиакомпании Lion Air потерпел крушение в октябре 2018 года над морем у западного побережья острова Ява. На борту находились 189 человек, все погибли.
Это расширенная версия текста, опубликованного в номере «РГ»
Выбор образовательной технологии
Вы будете перенаправлены на Автор24
Критерии выбора образовательной технологии
Один из важнейших и наиболее трудных моментов в педагогической деятельности, является выбор образовательной технологии. Осуществляя процесс выбора, педагог должен исходить из того, что каждая образовательная технология ориентирована на решение конкретных дидактических задач.
В процессе выбора образовательной технологии необходимо творчески и обоснованно оценивать возможности каждой технологии, учесть ее «сильные» и «слабые» стороны. Исходя из этого, следует опираться на оптимальное сочетание технологии с темой учебного предмета или занятия.
При осуществлении выбора образовательной технологии их принято подразделять на два вида:
Механизм выбора индивидуален и вариативен по своему осуществлению. Это связано с тем, что часть педагогов подбирают технологии в зависимости от цели и конечного результата обучения. Для вторых важно содержание учебного материала и его обучающие возможности. Третьи опираются на используемые в технологии методы и способы. Кто-то учитывает реальный практический опыт и т.д.
Несмотря на индивидуальность и вариативность выбора, все педагоги обязаны учитывать следующие критерии выбора:
Алгоритм выбора образовательной технологии
Выбор педагогом образовательной технологии осуществляется согласно следующему алгоритму:
Готовые работы на аналогичную тему
Определение актуальной цели обучения и общих задач по изучению дисциплины, курса, раздела, темы и т.п.
Осуществление анализа возможностей и характера изучаемого учебного материала. Оценка материала осуществляется по следующим параметрам:
Осуществление анализа обучаемости и учебных возможностей учащихся.
Формулировка и постановка задач, исходя из цели. Задачи ставятся двух уровней развивающие и обучающие.
Предварительное определение предпочитаемой образовательной технологии.
Корректировка и конкретизация принятого решения о выбранной технологии. Осуществляется на основании учета имеющегося времени, методического и учебного материала, оборудования, возможностей и предпочтений педагога.
Факторы выбора образовательной технологии
Для выбора образовательной технологии следует учитывать ряд факторов педагогического процесса:
Рассмотрим, как выбираются технологии обучения, адекватные соответствующей цели изучения раздела или темы.
В случае, если цели изучаемой темы или раздела не превосходят уровня усвоения, то выбор педагога должен остановиться на репродуктивной образовательной технологии. Содержание данной технологии включает в себя:
В том случае, если цель изучение темы или раздела направлена на усвоение основных алгоритмов деятельности, то выбор останавливается на репродуктивно-алгоритмической технологии. Данная технология предполагает:
Если основной целью является формирование опыта эвристической и поисковой деятельности, то выбирается эвристическая технология, в которой преобладают дидактические методики (проблемное обучение, метод проектов, деловые игры и т.п.).
Если в цели изучения раздела, темы входит формирование творческого технологического мышления, то необходимы творческие технологии обучения, основой которых являются методы освоения опыта творческой деятельности (ТРИЗ – технологии, метод морфологического анализа и т.п.).
Если цели изучения раздела или темы направлены на формирование информационной культуры обучаемых, умение обрабатывать информацию, то должны применяться новые информационные технологии (ИКТ, мультмедиа, автоматизированные обучающие системы и т.п.)
На что должен опираться ответственный выбор новых технологий
Специалист по техноэтике и социальным аспектам внедрения новых технологий.
– Философская дисциплина, известная нам как этика, пытается разрешить четыре основные проблемы: проблема критериев добра и зла, проблема смысла жизни и назначения человека, проблема свободы воли и проблема должного и его совмещения с желанием счастья. А какие вопросы решает технологическая этика?
Изобретать что-то новое здесь не нужно, и вопрос технологий целесообразно рассматривать в свете тех же самых четырёх проблем. Приведу пару примеров. Допустим, этично ли корректировать геном, чтобы создать предрасположенность человека к чему-либо конкретному? То есть ещё на эмбриональном уровне подготовить его к тому, чтобы он стал, например, очень крутым математиком, но тем самым лишить его свободы выбора стать крутым футболистом. Да, в математике он, наверное, будет счастлив, поскольку здесь у него всё будет получаться, но имеем ли мы право навязать ему счастье именно в этом, а не в том?
Другой пример: помните знаменитый эксперимент с нейростимуляцией крыс? В мозг животных были вживлены металлические электроды, которые при нажатии специальной кнопки стимулировали центр удовольствий. Когда крысам позволили нажимать на эту кнопку самостоятельно, они стали делать это непрерывно, забыв даже о воде и пище, и, в конечном счёте, умерли от истощения. Они не нашли в себе более сильной мотивации, чем нажимать кнопку, что в случае с человеком означало бы отказ от ценностных оснований счастья. Но какой тогда во всём этом смысл, если счастья можно достичь, просто нажимая на кнопку? Технические возможности нейротехнологий поставят перед нами новые вопросы переосмысления понятия «счастья» как ценности и задачу поиска новых мотиваций для жизни.
– Любая ли технология является предметом рассмотрения техноэтики?
Существует много вопросов о том, как должны развиваться современные технологии, и как их следует или не следует применять. Но в моём понимании не все эти вопросы являются этическими. К примеру, вопрос создания супервируса на основе технологии генома к этическим я отнести не могу, потому что кого ни спроси – все скажут, что делать этого не нужно, это плохо. Здесь нет этики как таковой, поскольку в своём мнении едины все. Вирус, скорее всего, всё равно будет создан, но работы будут непубличными.
Этический же вопрос возникает там, где общество делится на две или более части. Это спорные вопросы, на которые люди, основываясь на своих ценностях, отвечают по-разному.
За последнее время технологическая этика значительно увеличила свою актуальность. Связано это с тем, что темпы выведения новых технологий на рынок сильно ускорились, а также с развитием технологий, работающих с человеческой идентичностью, таких как киборгизация, редактирование генома, нейротехнология. Подобные технологии заставляют людей глубже задумываться о самих себе, своей идентичности, своих личностных ценностях.
В апреле 2015 года группой учёных университета Сунь Ятсена (Китай) впервые в мире был проведён эксперимент по редактированию генома человеческих эмбрионов с помощь технологии CRISPR/Cas9, базирующейся на иммунной системе бактерий. Но ввиду запрета этических комиссий на подобные эксперименты, его результаты даже не были опубликованы крупными научными журналами.
– Ты утверждаешь, что техноэтика проявляет себя на уровне общества, когда по отношению к той или иной технологии оно делится на два лагеря. Но как тогда быть с таким понятием, как моральный выбор, который обычно осуществляется на уровне конкретного учёного или инженера? Должен ли он задумываться над тем, какой вред может нанести его разработка?
Но кто ответственен за то, что всё получилось так, как получилось? Разве учёный или инженер? Если возлагать ответственность на них, то им тогда лучше совсем ничего не делать, поскольку, как я уже говорил, практически невозможно придумать такое изобретение, которое нельзя было бы использовать в негативных целях.
Мир за последние годы сильно изменился – настало время коллабораций и научных групп. Современная наука сложна, и сделать что-то в одиночку невозможно. Одни научные группы проводят анализы, другие – разрабатывают прототипы, третьи – осуществляют тестирование. А в итоге рождается одна-единственная технология, ответственность за которую очень сильно размыта между всеми участниками.
– Но кто тогда должен быть носителем технологической этики, если не учёные, тем более, что многие технологии только им одним и понятны? Возложи в этой ситуации ответственность на всё общество в целом – и оно либо запретит «хорошую» технологию, либо одобрит «плохую». Яркий пример – ГМО-продукты. Большинство учёных уверяют, что они опасны не более, чем результаты обычной селекции, в то время как общество в целом выступает против, при этом совершенно не разбираясь ни в генах, ни в процессах пищеварения. Социологические опросы показывают удивительную вещь: большинство населения вообще уверено, что «обычные томаты генов не содержат, в отличие от трансгенных томатов». В итоге в некоторых странах мы имеем запрет на производство и продажу ГМО. Разве можно такую ситуацию назвать нормальной?
Конечным носителем технологической этики общество будет в любом случае. Даже в тех странах, где продажа содержащих ГМО продуктов разрешена, покупать или не покупать их, решают конкретные люди. Но их выбор будет результатом просвещения и образования, и в этом смысле первичным носителем этики будет выступать определённое экспертное сообщество. Здесь, правда, возникает другая проблема: образованием всегда управляла власть, и она способна убедить людей в нужной для неё позиции. Но любой человек при желании может достаточно легко получить и не аффилированные с конкретной властью знания – благодаря глобальности и связности сегодняшнего мира. И если не брать ситуацию Северной Кореи и Китая, в большинстве стран люди могут это делать, в том числе и в России. К сожалению, далеко не всегда хотят.
Большинство людей очень плохо информировано о современных технологиях и в них не разбирается. К примеру, опросы показывают, что более 50 % населения твёрдо уверено, что обычные томаты вообще не содержат генов, в отличие от трансгенных томатов. Кстати, а сможете ли вы только лишь по внешнему виду выделить из четырёх приведённых картинок те, на которых изображены продукты, полученные методом генной инженерии? Если вы думаете, что это кукуруза, картофель или томат, то ошибаетесь – выведены они путём самой обычной селекции. Ну, а что касается фотографии дикого банана с семенами внутри мякоти, то он появился не то что раньше возникновения генной инженерии как таковой, но и задолго до появления самого человека.
– Считается, что моральные дилеммы не имеют правильного решения. Но сейчас человек стоит перед необходимостью программировать беспилотники, а значит, с правильным выбором он должен определиться и, более того, заложить его в «мозги» робота. Кого будет давить в критической ситуации беспилотный автомобиль – зазевавшегося студента или престарелую супружескую пару? Задавит перебегающую на красный свет маленькую девочку или пожертвует собственным пассажиром – руководителем крупной корпорации? А что если дело происходит в Индии? Чья жизнь ценнее – бредущей по дороге священной коровы или толпы людей, стоящих на остановке?
Я считаю, что эта проблема беспилотников сильно преувеличена, поскольку в реальной жизни ситуации с возможностью подобного выбора происходят крайне редко, а с внедрением беспилотников будут происходить ещё в десять, а может быть, и в сто раз реже. Теоретически мы можем научить машину мгновенно распознавать человека и с помощью его профилей в социальных сетях определять возраст, социальное положение, профессию и наличие детей. Затем по каким-то хитрым алгоритмам сравнивать ценность пешехода и пассажира и выбирать – кому жить дальше, а кому – нет. Однако я категорически против такого подхода: это движение в сторону евгеники, и оно противоречит современному пониманию прав человека. Единственное, о чём может идти речь – о сравнении числа жертв, без их оценок. Если же это число одинаково при всех возможных вариантах, то принцип может быть хоть случайным. Но, повторюсь, основные старания инженеров и программистов должны быть сконцентрированы на предотвращении подобных ситуаций, а не на их решении.
– С точки зрения сухой статистики, может быть, и не принципиально, кто будет сбит в итоге. Но каждое ДТП – это ещё и судьбы вполне конкретных людей, и донести до убитых горем родственников погибшего, что их сын, брат или муж погиб только потому, что робот случайным образом выбрал в качестве жертвы именно его, будет крайне сложно.
Конечно, всё это очень печально. Но в реальности понять и принять случайный выбор гораздо проще. А вот объяснить, что кто-то погиб лишь по причине того, что он на два месяца старше другого человека или занимает менее ответственную должность, будет действительно проблематично.
Проблема вагонетки – известный мысленный эксперимент в этике, сформулированный в 1967 году английским философом Филиппой Фут. Он моделирует типичную моральную дилемму – возможно ли навредить одному, чтобы спасти других.
Формулируется проблема так: «По рельсам с большой скоростью несётся неуправляемая вагонетка. На её пути к рельсам привязаны пять человек, которые неминуемо должны погибнуть. Однако у вас есть возможность перевести стрелку, и тогда вагонетка свернёт на запасной путь, задавив другого человека, также привязанного к рельсам. Каковы будут ваши действия?»
Очень многие испытуемые затрудняются сделать выбор, но при этом большинство из них уверено, что если за перевод стрелки отвечает робот, то он должен спасти бо́льшее количество людей.
Похожая проблема была предложена философом Д. Д. Томсоном. Как и прежде, вагонетка несётся по рельсам, к которым привязаны пять человек. Вы находитесь на мосту, который проходит над рельсами. У вас есть возможность остановить вагонетку, бросив на пути что-нибудь тяжёлое. Рядом с вами находится толстый человек, и единственная возможность остановить вагонетку – столкнуть его с моста на пути. Какими будут ваши действия?
Можно ли, с нравственной точки зрения, столкнуть человека, чтобы спасти остальных? Такое решение для значительной части людей выглядит уже практически невозможным. Бо́льшая часть тех, кто переключил бы стрелку в первой ситуации, не стали бы толкать человека под вагонетку во второй, хотя никакой принципиальной разницы между этими ситуациями нет.
– Сегодня водитель несёт дополнительную ответственность как владелец средства повышенной опасности, причём вне зависимости от того, виноват он в ДТП или нет. В случае с беспилотником водитель «исчезает» – и кто тогда начинает отвечать за сбитого пешехода? Программист?
Думаю, что на первом этапе это будет проблемой корпораций, занятых производством беспилотников. Но каждое ДТП будет тщательно анализироваться, что позволит сделать беспилотники ещё более безопасными, а в дальнейшем может послужить основанием для изменения норм ПДД, иной организации дорожного движения и юридической ответственности. Вполне возможно, что здесь мы придём к той же модели, которая существует в железнодорожном транспорте, где никакой ответственности за сбитых поездом нарушителей машинисты не несут.
– Наверное, недолго осталось ждать и того момента, когда человечество создаст андроидов с достаточно продвинутым искусственным интеллектом. Какой будет их этика? В её основе будут лежать законы робототехники, сформулированные Азимовым?
Законы Азимова использовать нужно, но только в метафорическом смысле – как некоторые пожелания для робототехников: не стоит делать роботов, которые убивают людей; не стоит делать роботов, которые не выполняют приказов человека; не стоит делать роботов, которые не заботятся о собственной безопасности.
Но с тем, что этику для роботов, так или иначе, нам придётся прописывать, я согласен. Человечество стоит на пороге «кризиса сложности», и в скором времени для управления заводами, электростанциями и, может быть, даже городами, нам потребуются компьютеры «с большими полномочиями». И этим компьютерам придётся принимать сложные решения: допустим, при возникновении критической ситуации на атомной электростанции закрыть зону реактора с оставшимися в ней людьми, чтобы не допустить бо́льших жертв.
Вопрос правильности принятого роботом морального решения является одним из центральных в снятом по мотивам рассказов Азимова фильме «Я, робот». Его главный герой, сыгранный Уиллом Смитом, мучается из-за того, что во время автомобильной аварии пробегавший мимо робот спасает именно его, а не маленькую девочку, посчитав, что в данной ситуации шансов выжить у неё меньше.
В 2004 году Институтом сингулярности США для обсуждения этики искусственного интеллекта в контексте проблем, затронутых в фильме «Я, робот», был даже открыт специальный сайт.
– А есть какое-то понимание, как можно научить роботов принимать такие решения?
Мы можем задавать им правила, а можем обучать на поступках людей, например, с помощью книг или виртуальных миров. Причём технологии обучения роботов сейчас активно разрабатываются. Наверное, это одна из тех сфер, где радикальные успехи фиксируются наиболее часто. Даже очень далёкие от этой темы люди наверняка слышали о применении этой технологии в приложении-фоторедакторе «Призма» и программе AlphaGo, обыгравшей человека в игру Го. Так что создание достаточно умных, самообучающихся машин – это уже не область научной фантастики, а вполне понятно прорисованные дорожные карты развития проектов и оформившиеся в аналитических отчётах тренды.
Подписаться на новыe материалы можно здесь: Фейсбук ВКонтакте