Информация о статье

Название статьи:

Риски злонамеренного использования искусственного интеллекта и возможности их минимизации

Авторы:
Михайлов М.А., заведующий кафедрой цифровой и традиционной криминалистики, кандидат юридических наук, доцент, Севастопольский государственный университет, г. Севастополь, Российская Федерация, m@crimpro.ru,

Кокодей Т.А., профессор кафедры цифровой и традиционной криминалистики, доктор экономических наук, профессор, Севастопольский государственный университет, г. Севастополь, Российская Федерация, tanya.kokodey@gmail.com

В рубрике:
ПРОТИВОДЕЙСТВИЕ ПРЕСТУПНОСТИ И КРИМИНОЛОГИЧЕСКАЯ БЕЗОПАСНОСТЬ

Год: 2023 Том: 17 Номер журнала: 5

Страницы: 452-461

Тип статьи: Научная статья

УДК: 343.85

Аннотация:
Стремительное совершенствование интеллектуальных систем, выполняющих творческие функции, что прежде считалось исключительной прерогативой человека, стало выдающимся достижением научно-технического прогресса последних лет. А предоставление доступа к ним широкому кругу пользователей вызвало резкий скачок популярности искусственного интеллекта в различных сферах человеческой деятельности. Однако это явление может иметь и негативные последствия - использование систем искусственного интеллекта для достижения преступных целей. В статье раскрывается характер таких угроз, рассматриваются результаты их анализа иностранными учеными, поскольку за рубежом эта проблема проявилась несколько раньше, чем в нашей стране. Применение зарубежного опыта противодействия преступному использованию искусственного интеллекта с учетом национальной специфики полезно с точки зрения прогнозирования дальнейшего развития ситуации и предупреждения и сдерживания отрицательных последствий. В статье уделяется внимание таким проблемам, возникающим при использовании систем искусственного интеллекта, как нарушение авторского права при генерировании изображений, создание речевых и видеодипфейков для дистанционного мошенничества и вымогательства, распространения порнографии, дискредитации лиц. Подчеркивается рост общественной опасности травли, уничижения при кибербуллинге с применением инструментов искусственного интеллекта. Отмечается факт самоубийства жителя Западной Европы после общения с чат-ботом системы искусственного интеллекта, создатели которого, однако, не были привлечены к ответственности. Освещаются дискуссии об определении субъекта преступления в случае происшествий с беспилотным транспортом, выделяются опасные тенденции использования продуктов искусственного интеллекта в военной сфере, указывается на необходимость запрета «автономного оружия» на международном уровне. Авторы анализируют первые попытки правового регулирования использования продуктов искусственного интеллекта и предлагают внедрить следующие меры предупреждения, нейтрализации и снижения вреда от рисков злонамеренного использования систем искусственного интеллекта: верификацию пользователей, маркировку продуктов, созданных искусственным интеллектом, тестирование новых систем на предмет их преступного использования, оперативное реагирование на факты преступлений путем выработки рекомендаций по их предупреждению, совершенствование систем выявления случаев скрытого использования искусственного интеллекта, законодательные преобразования с учетом возникновения новых фактов общественно опасных деяний, ограничение применения инструментов искусственного интеллекта в отдельных сферах (военном деле, юриспруденции, экспертной деятельности) и определение возможности их использования при создании творческих квалификационных работ, конкурсных заданий, диссертаций.

Ключевые слова: преступное использование искусственного интеллекта, правовое регулирование применения искусственного интеллекта, автономное оружие, кибербуллинг, дипфейки в порнографии, морфинг искусственного интеллекта, верификация пользователей искусственного интеллекта, маркировка продуктов искусственного интеллекта, тестирование безопасности систем искусственного интеллекта, скрытое использование искусственного интеллекта

Скачиваний - 325
География скачиваний

Скачать полный текст статьи

Список цитируемой литературы:

Hu K. ChatGPT Sets Record for Fastest-Growing User Base - Analyst Note / K. Hu // Reuters. - URL: https://www.reuters.com/technology/chatgpt-sets-record-fastest-growing-user-base-analyst-note-2023-02-01.
Konrad A. Exclusive: Bill Gates On Advising OpenAI, Microsoft And Why Al Is' The Hottest Topic Of 2023' / A. Konrad // Forbes. - URL: https://www.forbes.com/sites/alexkonrad/2023/02/06/bill-gates-openai-microsoft-ai-hottest-topic-2023/?sh=5353244c4777.
Blauth T.F. Artificial Intelligence Crime: An Overview of Malicious Use and Abuse of AI / T.F. Blauth, O.J. Gstrein, A. Zwitter // IEEE Access. - 2022. - Vol. 10. - P. 77110-77122.
Лопашенко Н.А. Новые реалии преступности в цифровом мире и в эпоху развития искусственного интеллекта и уголовно-правовая реакция на них: не стоит «прогибаться под изменчивый мир»? / Н.А. Лопашенко. - EDN TCHFAR // Уголовный закон в эпоху искусственного интеллекта и цифровизации : материалы Всерос. науч.-практ. конф., Саратов, 9 июня 2021 г. - Саратов, 2021. - С. 15-31.
Вехов В.Б. Искусственный интеллект в решении криминалистических задач / В.Б. Вехов, П.С. Пастухов. - EDN PNNEZV // Государственное и муниципальное управление в России: состояние, проблемы и перспективы : материалы Всерос. науч.-практ. конф., Пермь, 12 нояб. 2020 г. - Пермь, 2020. - С. 8-16.
Гордеев А.Ю. Перспективы развития и использования искусственного интеллекта и нейросетей для противодействия преступности в России (на основе зарубежного опыта) / А.Ю. Гордеев. - EDN KNBLSY // Научный портал МВД России. - 2021. - № 1 (53). - С. 123-135.
Использование искусственного интеллекта при выявлении, раскрытии, расследовании преступлений и рассмотрении уголовных дел в суде / Д.В. Бахтеев, Е.А. Буглаева, А.И. Зазулин [и др.]. - Москва : Юрлитинформ, 2022. - 216 с. - EDN HNCNFY.
Лапунин М.М. Нетранзитивность общественных ценностей и проблема выбора при использовании инновационных технологий: уголовно-правовой аспект / М.М. Лапунин. - EDN XBYUNH // Уголовный закон в эпоху искусственного интеллекта и цифровизации : материалы Всерос. науч.-практ. конф., Саратов, 9 июня 2021 г. - Саратов, 2021. - С. 149-158.
Дремлюга Р.И. Преступные посягательства на системы искусственного интеллекта: уголовно-правовая характеристика / Р.И. Дремлюга, А.И. Коробеев. - DOI 10.17150/2500-1442.2023.17(1).5-12. - EDN USOFCJ // Всероссийский криминологический журнал. - 2023. - Т. 17, № 1. - С. 5-12.
Аверинская С.А. Создание искусственного интеллекта с целью злонамеренного использования в уголовном праве Российской Федерации / С.А. Аверинская, А.А. Севостьянова. - DOI 10.24411/2073-3313-2019-10064. - EDN PNRROX // Закон и право. - 2019. - № 2. - С. 94-96.
Михайлов М.А. Цифровые инновации и права человека: дилеммы международной правоохранительной практики / М.А. Михайлов, Т.А. Кокодей. - DOI 10.52468/2542-1514.2022.6(3).120-133. - EDN UQQTTU // Правоприменение. - 2022. - Т. 6, № 3. - С. 120-133.
Al-enabled Future Crime / M. Caldwell, J.T.A. Andrews, T. Tanay [et al.] // Crime Science. - 2020. - Vol. 9, № 14. - URL: https://doi.org/10.1186/s40163-020-00123-8.
Vincent J. AI art Tools Stable Diffusion and Midjourney Targeted with Copyright Lawsuit / J. Vincent // The Verge. - URL: https://www.theverge.com/2023/1/16/23557098/generative-ai-art-copyright-legal-lawsuit-stable-diffusion-midjourney-deviantart.
Stupp C. Fraudsters Used AI to Mimic CEO's Voice in Unusual Cybercrime Case: Scams Using Artificial Intelligence are a new Challenge for Companies / C. Stupp // The Wall Street Journal. - 2019. - URL: https://www.wsj.com/articles/fraudsters-use-ai-to-mimic-ceos-voice-in-unusual-cybercrime-case-11567157402.
Надтока С. РФ готує діпфейк Зеленського про капітуляцію - ЦСКІБ / С. Надтока // Кореспондент.net. - URL: https://ua.korrespondent.net/ukraine/events/4453500-rf-hotuie-dipfeik-zelenskoho-pro-kapituliatsiui-tsskib.
Fitzsimons T. Pennsylvania Cheer Squad Mom Allegedly Cyberbullied Minors With Deepfakes, Officials Say / T. Fitzsimons // NBC News. - URL: https://www.nbcnews.com/news/us-news/pennsylvania-cheer-squad-mom-allegedly-cyberbullied-minors-deepfakes-officials-say-n1261055.
Delfino R. The Deepfake Defense - Exploring the Limits of the Law and Ethical Norms in Protecting Legal Proceedings from Lying Lawyers / R. Delfino. - Los Angeles : Loyola Law School, 2023. - URL: https://ssrn.com/abstract=4355140 or http://dx.doi.org/10.2139/ssrn.4355140.
Artificial Intelligence and the Exploitation of Children / L. Fitch, E.F. Rosenblum, J. Stein [et al.] // National Association of Attorneys General. - URL: https://www.naag.org/event/2023-naag-capital-forum.
Думский А.В. Морфинг как один из способов частичной подделки документов / А.В. Думский, И.В. Дубойский. - DOI 10.18572/2072-442X-2023-3-24-28. - EDN OIDVZK // Эксперт-криминалист. - 2023. - № 3. - С. 24-28.
Atillah I. Man Ends His Life After an AI Chatbot 'Encouraged' Him to Sacrifice Himself to Stop Climate Change / I. Atillah // Euronews. - URL: https://www.euronews.com/next/2023/03/31/man-ends-his-life-after-an-ai-chatbot-encouraged-him-to-sacrifice-himself-to-stop-climate.
Стукало И.С. Определение понятия кибербуллинга на основании исследований зарубежных и отечественных ученых / И.С. Стукало. - EDN CDHMQG // Молодой ученый. - 2020. - № 2 (292). - С. 218-220.
Маликов С.В. Проблемы применения интеллектуального роботизированного оружия в современных вооруженных конфликтах / С.В. Маликов, И.С. Лех. - EDN CXMCUV // Вестник военного права. - 2022. - № 1. - С. 44-48.
Robinson T. AI - is Skynet here already? Highlights from the RAeS Future Combat Air & Space Capabilities Summit / T. Robinson, S. Bridgewater // Royal Aeronautikal Socety. - URL: https://www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-space-capabilities-summit.
Dual use of artificial-intelligence-powered drug discovery / F. Urbina, F. Lentzos, C. Invernizzi, S. Ekins // Nature. - URL: https://www.nature.com/articles/s42256-022-00465-9#citeas.
Дремлюга Р.И. Использование искусственного интеллекта в преступных целях: уголовно-правовая характеристика / Р.И. Дремлюга. - DOI 10.24866/1813-3274/2021-3/153-165. - EDN LADGAM // Азиатско-Тихоокеанский регион: экономика, политика, право. - 2021. - Т. 23, № 3. - С. 153-165.
Wong De Quan L. AI Hires a Human to Solve Captcha, Because It Couldn't Solve It Itself / L. Wong De Quan // Gizmoshina. - URL: https://www.gizmochina.com/2023/03/16/ai-hire-a-human-to-solve-captcha.
Face morphing attacks: Investigating detection with humans and computers / R.S.S. Kramer, M.O. Mireku, T.R. Flack [et al.] // Cognitive Research. - 2019. - Vol. 4, № 28. - URL: https://doi.org/10.1186/s41235-019-0181-4.
Фадеичев С. Валерий Фальков: санкции не остановили развитие российской науки / С. Фадеичев // ТАСС. - URL: https://tass.ru/interviews/16988115.