Искусственный интеллект. Большие данные. Преступность
Шрифт:
22) Системы ИИ, разрабатываемые с возможностью рекурсивного самосовершенствования или самовоспроизведения с последующим быстрым увеличением их количества или качества, должны отвечать строгим критериям безопасности и контроля;
23) Суперинтеллект должен разрабатываться только для служения широко разделяемым этическим идеалам и на благо всего человечества, а не одного государства или организации.
По сути, любые решения с применением ИИ будут результатом взаимодействия человека и компьютера. Если все прошло хорошо, то вопросов нет. А если не просто случилась неприятность, а неприятность, порожденная ошибкой, то кто за это должен ответить не только в финансовом, но и в правовом плане? Ответов нет. Все это подводит нас к переходу от этической
§ 7. ИИ, роботы и право
Повсеместное распространение новых технологий и продуктов с их использованием размывает границы между человеком и машиной, между действиями в Интернете и вне его, между физическим и виртуальным миром, между естественным и искусственным, между реальной жизнью и виртуальной реальностью. Человечество наращивает свои возможности, используя для этого машины, роботов и программное обеспечение. Сегодня уже можно создать работоспособные интерфейсы между мозгом и компьютером. Теперь речь уже идет не об «обработанном» человеке, а об «отремонтированном» человеке, а на горизонте уже маячит «дополненный» человек.
В 2012 году Европейская Комиссия запустила проект «RoboLaw» основной целью которого было исследование того, каким образом перспективные технологии в сфере биоробототехники (включая ИИ) могут коррелировать с национальными и общеевропейской правовыми системами.
Парламентская ассамблея Совета Европы (ПАСЕ) в Рекомендации 2102 (2017) «Технологическая конвергенция, искусственный интеллект и права человека» с обеспокоенностью отметила, что законодателям становится все сложнее адаптироваться к скорости эволюции науки и техники и разрабатывать необходимые правила и стандарты; она убеждена, что гарантия человеческого достоинства в XXI веке предполагает разработку новых форм правления, новых форм открытой, осознанной и состязательной публичной дискуссии, новых законодательных механизмов и, прежде всего, установление международного сотрудничества, позволяющего более эффективно решать эти новые задачи.
ПАСЕ в указанном документе отмечает, что ссылки на то, что системы с ИИ «самостоятельно» принимают решения, не могут освобождать создателей, владельцев и управляющих этих систем от ответственности за нарушения прав человека, совершаемые с применением таких систем, даже в случаях, когда действие, причинившее ущерб, не было напрямую санкционировано ответственным руководителем или оператором.
Также ПАСЕ требует обеспечить такое положение, чтобы любая машина, любой робот или любой объект ИИ оставались под контролем человека; исходя из того, что машина считается разумной лишь за счет своего программного обеспечения, следует предусмотреть возможность лишать ее способностей, которыми она обладает.
Следует признать новые права, связанные с уважением личной и семейной жизни, «возможности отказаться от того, чтобы кто-то подвергал вас профилированию, отслеживал ваше местонахождение, манипулировал вами или влиял на вас».
В ряде стран активно создаются правовые условия для развития технологий, использующих ИИ [23] . Так, в Южной Корее еще с 2008 г. существует Закон «О содействии развитию и распространению умных роботов». Закон направлен на улучшение качества жизни и развитие экономики путем разработки и продвижения стратегии устойчивого развития индустрии умных роботов, а правительство каждые пять лет разрабатывает основной план обеспечения эффективного достижения данной цели.
23
См.’.КарлюкМ. Этические и правовые вопросы искусственного
В марте 2018 г. президент Франции Э.Макрон презентовал национальную стратегию в сфере искусственного интеллекта. Франция планирует инвестировать 1,5 млрд, евро в течение пяти лет для поддержки исследований и инноваций в данной сфере. Стратегия основана на рекомендациях, сделанных в отчете, подготовленном под руководством французского математика и депутата национального собрания Франции Седрика Вилланы. Причем сделан выбор направить стратегию на конкретные четыре сектора: здравоохранение, транспорт, окружающую среду и оборону и безопасность.
В целом даны семь ключевых предложений, одно из которых представляет особый интерес для целей статьи – сделать ИИ более открытым. Действительно, алгоритмы закрыты и в большинстве случаев являются коммерческой тайной. Однако алгоритмы могут быть предвзятыми, например, в процессе самообучения впитать стереотипы, существующие в обществе либо переданные разработчиками, и на их основе принимать решения. В США подсудимый был приговорен к продолжительному сроку заключения на основе информации, полученной от алгоритма, оценивающего возможность повторного преступления. Подсудимый безуспешно оспаривал использование алгоритма для принятия такого решения, поскольку не были предоставлены критерии оценки, являющиеся коммерческой тайной. Французская стратегия предлагает развить прозрачность алгоритмов и возможностей по их проверке, а также определить этическую ответственность работающих в сфере ИИ, создать консультативные комитеты по этике и т. д.
В ЕС первым шагом в направлении регулирования вопросов ИИ стала Резолюция Европейского Парламента 2017 г. «Нормы гражданского права о робототехнике». Еще в 2015 г. в Европейском Парламенте была создана рабочая группа по правовым вопросам, связанным с развитием робототехники и ИИ в ЕС. Резолюция не является обязательным документом, но дает ряд рекомендаций Европейской
Комиссии для возможных действий в этом направлении, причем не только касательно норм гражданского права, но и этических аспектов робототехники.
Резолюция определяет «умного робота» как робота, получающего автономию через использование сенсоров и/или взаимосвязь с окружающей средой; при этом робот имеет по меньшей мере минимальную физическую поддержку, адаптирует свое поведение и действия в соответствии с условиями среды, но у него отсутствует жизнь с биологической точки зрения. Предлагается создать систему регистрации продвинутых роботов, которая управлялась бы Агентством ЕС по робототехнике и искусственному интеллекту. Данное агентство также предоставляло бы техническую, этическую и регулятивную экспертизу по робототехнике. Что касается ответственности, предлагаются два варианта: либо объективная ответственность (не требующая вины), либо подход риск-менеджмента (ответственность лица, которое могло минимизировать риски). Ответственность должна быть пропорциональной реальному уровню указаний, которые отдаются роботу и уровню его автономности. Правила ответственности могут быть дополнены обязательным страхованием для пользователей роботов и компенсационным фондом для выплаты компенсации в случае отсутствия страхового полиса, покрывающего риск.
Для решения этических вопросов резолюция предлагает два кодекса поведения: Кодекс этики для разработчиков робототехники и Кодекс комитетов по этике научных исследований. Первый, в частности, предлагает четыре этических принципа: 1) «делай благо» (роботы должны действовать в интересах людей); 2) «не навреди» (роботы не должны причинять вред человеку); 3) автономия (взаимодействие человека с роботами должно быть добровольным); 4) справедливость (выгоды, получаемые от деятельности роботов, должны быть распределены справедливо).