Правовое регулирование искусственного интеллекта в Казахстане и за рубежом (Виктория Симонова, партнер ТОО Дентонс Казахстан; Алия Сеитова, старший юрист ТОО Дентонс Казахстан; Жангир Аубакир, помощник юриста ТОО Дентонс Казахстан)

10.06.2022

 Правовое регулирование искусственного интеллекта в Казахстане и за рубежом

Виктория Симонова, партнер ТОО Дентонс Казахстан

Алия Сеитова, старший юрист ТОО Дентонс Казахстан

Жангир Аубакир, помощник юриста ТОО Дентонс Казахстан

Развитие технологий искусственного интеллекта (ИИ) и их повсеместное применение в личных и предпринимательских целях с каждым годом достигает все больших масштабов, что при отсутствии должного правового регулирования может вызывать существенные риски.

Некоторые страны с осторожностью устанавливают правовое регулирование для технологий ИИ. К примеру, соответствующие инициативы/планы развития и проекты законов уже приняты к рассмотрению в:

1) США - National Artificial Intelligence Initiative[1];

2) Китае - New Generation of Artificial Intelligence Development Plan[2];

3) ЕС - Artificial Intelligence Act[3].

В свою очередь, в Казахстане о необходимости правового регулирования ИИ впервые было заявлено в 2021 году в Концепции правовой политики до 2030 г.[4] В частности было определено, что существуют, по крайней мере, два фактора, обуславливающих необходимость принятия регулирования технологий ИИ и робототехники:

1) решение вопросов распределения ответственности за вред, причиненный ИИ и роботами; а также

2) решение проблемы определения принадлежности права интеллектуальной собственности на произведения, созданные с участием ИИ.

Таким образом, несмотря на отсутствие специального регулирования ИИ, Казахстан обозначил два главных направления юридической работы по разработке правил функционирования ИИ.

Отметим, что вышеизложенные вопросы ответственности за вред, причиненный ИИ, и интеллектуальной собственности (а именно, кто должен считаться автором произведения, созданного ИИ) активно обсуждаются во всем мире. По сей день международное сообщество в целом еще не разработало единого подхода в отношении регулирования ИИ.

В данном коротком обзоре мы систематизировали некоторые подходы к правовому регулированию ИИ в развитых странах, а также обозначили основные вопросы права, которые должны учитываться при внедрении ИИ в бизнес-процессы.

Понятие искусственного интеллекта

На данный момент среди государств и научного сообщества отсутствует консенсус по единой легальной дефиниции термина «искусственный интеллект».[5] К примеру, в США в 2020 г. принято следующее определение: машинная система, которая может для заданного набора задач, определяемых человеком, делать прогнозы, рекомендации или принимать решения, влияющие на реальную или виртуальную среду. В ЕС законопроект об искусственном интеллекте (Artificial Intelligence Act) предлагает похожее определение ИИ: программное обеспечение, которое может для заданного набора задач, определяемого человеком, генерировать выходные данные, такие как контент, прогнозы, рекомендации или решения, влияющие на среду, с которыми оно взаимодействует.

Искусственный интеллект действительно использует компьютеры и машины, собирает и анализирует данные, чтобы имитировать способность человеческого разума делать прогнозы и рекомендации, решать проблемы и принимать решения.

К примеру, многие из нас пользуются социальными сетями. Вы, скорее всего, замечали, что некоторые социальные сети автоматически включают ссылку на информацию о COVID-19, стоит лишь упомянуть в своем посте, комментарии, сообщении любое слово, ассоциирующееся с этим вирусом.

Или те же социальные сети анализируют Ваше поведение, активности и предлагают вам именно тот контент, которые был бы интересен именно Вам. Таким же образом ИИ предлагает и рекомендует Вам сделать определенные покупки, «показывая» Вам рекламу того или иного продукта/услуги. Все эти примеры, по нашему мнению, связаны несколькими признаками, присущими ИИ:

1) ИИ использует (собирает, анализирует) данные;

2) ИИ имитирует человеческий интеллект/разум;

3) ИИ направлен на принятие решений, которые обычно принимаются человеком.

Искусственный интеллект и интеллектуальная собственность

Далее мы сфокусируемся на регуляторных подходах США и ЕС по вопросу о соотношении ИИ и интеллектуальной собственности в сравнении с казахстанским законодательством. Отмечаем, что большинство выводов настоящего параграфа основаны на практике ведомств той или иной страны и/или судебных прецедентах.

Перед тем, как мы приступим к анализу, ниже просим ознакомиться с результатами опроса об использовании компаниями ИИ, проведенного европейскими офисами Дентонс в 2021 г., который дает представление о восприятии бизнесом ключевых возможностей и рисков, связанных с ИИ.

США. В 2020 г. американское Ведомство по патентам и товарным знакам (US Patent and Trademark Office) отметило[6], что действующее законодательство США не относит изобретения, созданные с помощью или непосредственно самим ИИ, к патентуемым, обосновывая это тем, что закон о патентах и правила Ведомства «однозначно» признают изобретателем только физических лиц (individuals). Суд в 2021 г. поддержал[7] решение Ведомства не регистрировать изобретение, тем самым признав, что в США изобретения не могут быть зарегистрированы за ИИ.

Для сравнения, казахстанское законодательство в отношении промышленной собственности аналогичным образом указывает, что автором объекта промышленной собственности признается только физическое лицо, творческим трудом которого объект создан.[8] Учитывая действующие нормы Патентного закона, мы считаем, что казахстанское ведомство (НИИС) также отказало бы в регистрации объекта промышленной собственности, где заявителем выступает ИИ.

Что касается объектов авторских прав, то американское Ведомство не расценивает ИИ в качестве автора произведений, поскольку из смысла законодательства США об авторском праве следует, что «плоды интеллектуального труда основаны на творческих способностях человеческого разума», соответственно произведения могут быть созданы только человеком. В 2022 году Ведомство, отказав в заявке о признании ИИ автором, отметило, что оно не будет регистрировать произведения, «созданные машиной или простым механическим процессом», который работает «без какого-либо творческого вклада или вмешательства со стороны человека».[9] Интересно, что при этом законодательство США позволяет юридическим лицам признаваться авторами служебных произведений.[10]

Таким образом, в США на данный момент невозможно признать ИИ автором произведений. Казахстан также признает авторами только физических лиц, а сами произведения должны быть созданы творческим трудом человека.[11]

ЕС. В отношении прав интеллектуальной собственности в законодательстве Европейского союза преобладает подход, определяющий человеческий фактор в качестве основного для определения принадлежности прав. Так, Европарламент установил[12], что технология ИИ не наделена правоспособностью и человеческим разумом, в связи с чем ИИ, создающий произведения или изобретения самостоятельно, не будет признаваться автором объектов интеллектуальной собственности. При этом отмечается, что если ИИ будет использоваться только как инструмент, помогающий автору в процессе создания, то в этом случае будут применимы общие положения законодательства ЕС об интеллектуальной собственности.[13]

Таким образом, Европейский союз предпринял попытку разграничить подход к работам, созданным с помощью ИИ (AI-assisted), и к случаям, когда ИИ создавал бы произведения самостоятельно (т.н. AI-generated works).

В первом случае, насколько мы понимаем, принадлежность прав интеллектуальной собственности будет бесспорно признана за лицом, использующим ИИ для создания объектов творческого труда. Подход остается нераскрытым в случае создания произведений искусственным интеллектом самостоятельно.

Несмотря на это, в 2021 году, Федеральный патентный суд Германии указал, что изобретения, созданные ИИ, «не исключаются из патентной защиты, при условии, что в заявке к патенту в качестве изобретателя указан человек».[14] Тем самым, немецкий суд признает, что ИИ может указываться в качестве изобретателя, но только как дополнительный изобретатель, основным должен обязательно указываться человек, создавший изобретение.

Исходя из вышеперечисленного можно сделать вывод, что американский и европейский подходы к соотнесению принадлежности прав интеллектуальной собственности и ИИ имеют мало отличий – оба подхода фокусируются на человеческом факторе и на отсутствии правоспособности ИИ как таковой, но при этом Евросоюз предпринимает инициативы по дальнейшему регулированию технологии с более благоприятной по отношению к ИИ позиции.

Ниже приведены основные моменты обзора в табличной форме:

В нашем понимании вопрос о принадлежности прав интеллектуальной собственности на произведения в случае с ИИ является важным и для целей определения лица, ответственного за вред, причиненный ИИ. Поэтому дальнейшее развитие законодательства в этом направлении ожидаемо.

Искусственный интеллект и персональные данные

Как мы указывали ранее, одним из основных признаков ИИ является использование (сбор, анализ) данных. Среди данных, используемых ИИ, могут быть и персональные данные.

Среди специалистов бытует мнение, что в тех странах, где использование и защита персональных данных мало урегулированы или не урегулированы вовсе, системы ИИ могут развиваться быстрее. Это связано как раз с тем, что ИИ необходимо использовать определенные данные, чтобы достичь поставленных задач.

В странах ЕС, как мы знаем, внедрены и работают положения GDPR, направленные на защиту персональных данных от незаконного использования. Учитывая положения GDPR, в ЕС уже создали список запрещенной практики ИИ. Так, согласно законопроекту Artificial Intelligence Act планируется запретить использование ИИ для:

1) любого типа социального скоринга (системы социального рейтинга);

2) дистанционной биометрической идентификации физических лиц в общедоступных местах (автоматизированное распознавание черт человека (лицо, радужная оболочка, отпечатки пальцев, ДНК, голос), нажатие клавиш, ритмы и т.д.;

3) определения эмоций людей;

4) классификации людей на основе биометрических данных по этническому признаку,

полу, политической или сексуальной ориентации или других особенностей, которые могут привести к дискриминации.

Как видно, в ЕС вышеизложенный перечень будет существенно сужать сферы использования ИИ. Отметим, что пока Artificial Intelligence Act не вступил в законную силу и находится на стадии рассмотрения.

При этом известны случаи применения действующего законодательства ЕС (в частности, GDPR) в целях наказания компаний за использование ИИ в нарушение требований по защите персональных данных. Например, в 2022 году в Венгрии был оштрафован[15] банк на рекордную в стране сумму – 670 тысяч евро, за использование систем ИИ для автоматического анализа записей звонков с клиентами. ИИ на основании произносимых ключевых слов анализировал голоса клиентов для оценки их эмоционального состояния во время разговора с банком. Впоследствии, ИИ составлял рейтинги и определял приоритетность клиентов, с кем банку следует связаться в первую очередь.

В этом случае банк считал главной целью использования ИИ улучшение качества службы поддержки клиентов, венгерские власти посчитали это недостаточным основанием для применения ИИ в целях автоматической обработки данных, отметив, что единственным возможным основанием для подобного использования персональных данных – добровольное и информированное согласие субъектов данных.

Таким образом, в ЕС возможно привлечение компаний к ответственности за незаконное использование ИИ и по действующему законодательству.

В Казахстане, в свою очередь, действует Закон о персональных данных[16], и как мы видим из последних судебных дел[17], компании несут ответственность за нарушения этого Закона. При этом, в Казахстане еще не предприняты попытки прямого урегулирования использования ИИ в разрезе защиты данных. Но учитывая некоторые требования действующего Закона, мы понимаем, что бизнес будет существенно ограничен в использовании ИИ, к примеру, если для работы ИИ требуются те же биометрические данные (в Казахстане биометрические данные подпадают под понятие персональных данных, и поэтому для использования таких данных так же требуется согласие).

***

Учитывая основные положения настоящего обзора, мы понимаем, что в Казахстане назревает острая необходимость в законодательном урегулировании использования ИИ. Казахстанское право должно определить, по крайней мере, следующие основные положения для дальнейшего развития ИИ:

1) Что такое и какие признаки присущи ИИ?

2) Кто может признаваться автором и правообладателем ИИ?

3) Кто несет ответственность за вред, причиненный вследствие использования ИИ?

4) Какие данные и при каких условиях может собирать и использовать ИИ?

Эти же вопросы, по нашему мнению, следует прорабатывать и бизнесу при внедрении любых систем ИИ, основываясь на действующем законодательстве.

Наша команда обладает опытом ведения проектов по интеллектуальной собственности и защите данных, и может помочь выявить и минимизировать риски, связанные с ИИ.

[1] https://www.congress.gov/bill/116th-congress/house-bill/6216/text

[2] https://www.unodc.org/res/ji/import/policy_papers/china_ai_strategy/china_ai_strategy.pdf

[3] EUR-Lex - 52021PC0206 - EN - EUR-Lex (europa.eu)

[4] Пункт 4.13 Указа Президента РК от 15 октября 2021 г. № 674 «Об утверждении Концепции правовой политики РК до 2030 г.»

[5] Третья сессия Дискуссии ВОИС (WIPO Conversation on Intellectual Property and Artificial Intelligence), 4 ноября 2020 г.

[6] https://www.uspto.gov/sites/default/files/documents/16524350_22apr2020.pdf

[7] Решение Окружного суда Восточного округа Вирджинии по делу Thaler v. Hirshfeld, 2 сентября 2021 г.

[8] Пункт 1 ст. 9 Патентного закона РК от 16 июля 1999 г.

[9] https://www.copyright.gov/rulings-filings/review-board/docs/a-recent-entrance-to-paradise.pdf

[10] U.S. Code, глава 17, § 201 (b)

[11] Подпункт (1) ст. 2 Закона РК «Об авторском праве и смежных правах» от 10 июня 1996 г.

[12] Резолюция Европарламента от 20 октября 2020 г. «Режим гражданской ответственности для искусственного интеллекта», п. B(6)

[13] Пункт 14 Резолюции Европарламента от 20 октября 2020 г. «О правах интеллектуальной собственности для развития технологии искусственного интеллекта»

[14] Решение Федерального патентного суда Германии № 11 W (pat) 5/21 от 11 ноября 2021 г.

[15] Решение Национального управления Венгрии по защите данных и свободе информации (Nemzeti Adatvédelmi és Információszabadság Hatóság) № NAIH-53-2/2022 от 8 февраля 2022 г.

[16] Закон РК «О персональных данных и их защите» от 21 мая 2013 г.

[17] https://www.dentons.com/ru/insights/articles/2022/april/13/kazakhstan-adopts-real-protections-of-personal-data