digitallawJournal of Digital Technologies and LawJournal of Digital Technologies and Law2949-2483Kazan Innovative University named after V. G. Timiryasov10.21202/jdtl.2023.38wxwsvudigitallaw-305Research ArticleARTICLESСТАТЬИTowards Legal Regulations of Generative AI in the Creative IndustryНа пути к правовому регулированию генеративного ИИ в творческой индустрииШумаковаН. И.ShumakovaN. I.

Шумакова Наталья Игоревна - доцент кафедры конституционного и административного права.

454080, Челябинск, пр. Ленина, 76

РИНЦ Author ID: https://www.elibrary.ru/author_items.asp?authorid=1211522

Natalia I. Shumakova - Associate professor of law, Department of constitutional and administrative law, Law Institute, South Ural State University (national research university).

76 Lenin Str., 454080 Chelyabinsk, Russian Federation

RSCI Author ID: https://www.elibrary.ru/author_items.asp?authorid=1211522

shumakovani@susu.ruhttps://orcid.org/0009-0007-8733-7261ЛлойдДж. Дж.LloydJ. J.

Ллойд Джордан Дж. - Шеффилдский университет; креативный директор, компания «Unseen History».

Хоуес Фарм, Доддингхерст Роуд, Брентвуд, Эссекс, CM15 0SG

Jordan J. Lloyd - Creative Director, Unseen History.

Howes Farm, Doddinghurst Road, Brentwood, Essex, CM15 0SG

jordan@unseenhistories.comhttps://orcid.org/0000-0001-9453-3550ТитоваЕ. В.TitovaE. V.

Титова Елена Викторовна - доктор юридических наук, доцент, директор Юридического института, заведующий кафедрой конституционного и административного права.

454080, Челябинск, пр. Ленина, 76

Scopus Author ID: https://www.scopus.com/authid/detail.uri?authorId=57201640405

РИНЦ Author ID: https://www.elibrary.ru/author_items.asp?authorid=451302

Elena V. Titova - Dr. Sci. (Law), Associate Professor, Department of Constitutional and Administrative Law, Law Institute, South Ural State University (National Research University).

76 Lenin Str., 454080 Chelyabinsk, Russian Federation

Scopus Author ID: https://www.scopus.com/authid/detail.uri?authorId=57201640405

РИНЦ Author ID: https://www.elibrary.ru/author_items.asp?authorid=451302

titovaev@susu.ruЮжно-Уральский государственный университет (национальный исследовательский университет)РоссияLaw Institute, South Ural State University (national research university)Russian FederationКомпания «Unseen History»ВеликобританияUnseen HistoryUnited Kingdom20231512202314880908Copyright © Shumakova N.I., Lloyd J.J., Titova E.V., 20232023Шумакова Н.И., Ллойд Д.Д., Титова Е.В.Shumakova N.I., Lloyd J.J., Titova E.V.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://www.lawjournal.digital/jour/article/view/305Objective

Objective: this article aims to answer the following questions: 1. Can generative artificial intelligence be a subject of copyright law? 2. What risks the unregulated use of generative artificial intelligence systems can cause? 3. What legal gaps should be filled in to minimize such risks?

Methods

Methods: comparative legal analysis, sociological method, concrete sociological method, quantitative data analysis, qualitative data analysis, statistical analysis, case study, induction, deduction.

Results

Results: the authors identified several risks of the unregulated usage of generative artificial intelligence in the creative industry, among which are: violation of copyright and labor law, violation of consumers rights and the rise of public distrust in government. They suggest that a prompt development of new legal norms can minimize these risks. In conclusion, the article constants that states have already begun to realize that the negative impact of generative artificial intelligence on the creative industry must not be ignored, hence the development of similar legal regulations in states with completely different regimes.

Scientific novelty

Scientific novelty: the article provides a comprehensive study of the impact of generative artificial intelligence on the creative industry from two perspectives: the perspective of law and the perspective of the industry. The empirical basis of it consists of two international surveys and an expert opinion of a representative of the industry. This approach allowed the authors to improve the objectivity of their research and to obtain results that can be used for finding a practical solution for the identified risks. The problem of the ongoing development and popularization of generative artificial intelligence systems goes beyond the question “who is the author?” therefore, it needs to be solved by introduction of other than the already existing mechanisms and regulations - this point of view is supported not only by the results of the surveys but also by the analysis of current lawsuits against developers of generative artificial intelligence systems.

Practical significance

Practical significance: the obtained results can be used to fasten the development of universal legal rules, regulations, instruments and standards, the current lack of which poses a threat not only to human rights, but also to several sectors within the creative industry and beyond.

Цель данной статьи - ответить на следующие вопросы: 1. Может ли генеративный искусственный интеллект быть субъектом авторского права? 2. К каким рискам может привести нерегулируемое использование систем генеративного искусственного интеллекта? 3. Какие правовые пробелы необходимо закрыть для минимизации таких рисков?

Методы

Методы: сравнительно-правовой анализ, социологический метод, частно-социологический метод, количественный и качественный анализ данных, статистический анализ, метод кейсов, индукция, дедукция.

Результаты

Результаты: авторы выявили ряд рисков, возникающих при нерегулируемом использовании генеративного искусственного интеллекта в творческой индустрии, среди которых нарушение авторского и трудового права, нарушение прав потребителей и рост недоверия населения к власти. Авторы полагают, что оперативная разработка новых правовых норм может минимизировать эти риски. В заключение констатируется, что государства уже начали осознавать опасность игнорирования негативного влияния генеративного искусственного интеллекта на творческую индустрию, что обусловливает разработку аналогичных правовых норм в государствах с совершенно разными режимами.

Научная новизна

Научная новизна: в работе проведено комплексное исследование влияния генеративного искусственного интеллекта на творческую индустрию с двух точек зрения: с позиции права и с позиции индустрии. Эмпирическую базу составляют два международных исследования и экспертное мнение представителя отрасли. Такой подход позволил авторам повысить объективность исследования и получить результаты, которые могут быть использованы для поиска практического решения выявленных рисков. Проблема непрерывного развития и роста популярности систем генеративного искусственного интеллекта выходит за рамки вопроса «кто автор?», поэтому ее необходимо решать путем внедрения иных, нежели уже существующих, механизмов и правил. Данная точка зрения подтверждается не только результатами проведенных исследований, но и анализом текущих судебных исков к разработчикам систем генеративного искусственного интеллекта.

Практическая значимость

Практическая значимость: полученные результаты могут быть использованы для ускорения разработки универсальных правовых норм, правил, инструментов и стандартов, отсутствие которых в настоящее время представляет угрозу не только для прав человека, но и для ряда отраслей творческой индустрии и других областей.

авторское правогенеративный искусственный интеллектинтеллектуальная собственностьискусственный интеллектмеждународное правонейронная сетьобъект авторского правасубъект авторского праватворческая индустрияцифровые технологииartificial intelligencecopyright lawcreative industrydigital technologiesgenerative artificial intelligenceintellectual propertyinternational lawneural networkobject of copyright lawsubject of copyright lawАвторы выражают благодарность редакции Journal of Digital Technologies and Law за помощь в проведении социологического опроса в телеграм-канале журнала https://t.me/JournalDTLThe authors are grateful to the Editorial Office of the Journal of Digital Technologies and Law for their assistance in conducting a sociological survey in the Journal's Telegram channel at https://t.me/JournalDTLReferencesАгибалова, Е. Н., Перекрёстова, Е. А. (2020). Право авторства на произведения, созданные искусственным интеллектом. Эпоха науки, 24, 124-126. https://doi.org/10.24411/2409-3203-2020-12424Agibalova, E. N., & Perekrestova, E. A. (2020). Copyright for the works created by artificial intelligence. Ehpokha nauki, 24, 124-126. (In Russ.). https://doi.org/10.24411/2409-3203-2020-12424Быльева, Д. С., Краснощеков, В. В. (2023). Оригинал и копия: технологический вызов искусству. Вестник Московского государственного областного университета. Серия: Философские науки, 2, 77-91. https://doi.org/10.18384/2310-7227-2023-2-77-91Aiken, W., Kim, H., Woo, S. S., & Ryoo, J. (2021). Neural network laundering: Removing black-box backdoor watermarks from deep neural networks. Computers & Security, 106, 102277. https://doi.org/10.1016/j.cose.2021.102277Пантелеев, А. Ф. (2023). Проблема сравнительной оценки картин, созданных художником и сгенерированных нейросетью. Известия Саратовского университета. Новая серия. Серия: Философия. Психология. Педагогика, 23(3), 326-330. https://doi.org/10.18500/1819-7671-2023-23-3-326-330Bylieva, D., & Krasnoschekov, V. (2023). The original and a copy: a technological challenge to art. Bulletin oftheMoscow Region State University. Series: Philosophy, 2, 77-91. (In Russ.). https://doi.org/10.18384/2310-7227-2023-2-77-91Соменков, С. А. (2019). Искусственный интеллект: от объекта к субъекту? Вестник Университета имени О. Е. Кутафина, 2(54), 75-85. https://doi.org/10.17803/2311-5998.2019.54.2.075-085Cao, F., Wang, T., Guo, D., Li, J., & Qin, C. (2023). Screen-shooting resistant image watermarking based on lightweight neural network in frequency domain. Journal of Visual Communication and Image Representation, 94, 103837. https://doi.org/10.1016/j.jvcir.2023.103837Степанов, М. А. (2022). Деавтономия постчеловеческого воображения: новые направления в теории искусства. В сб: Актуальные проблемы теории и истории искусства (№ 12, с. 663-673). http://dx.doi.org/10.18688/aa2212-07-53Dfaz-Rodrfguez, N., Del Ser, J., Coeckelbergh, M., De Prado, M. L., Herrera-Viedma, E., & Herrera, F. (2023). Connecting the dots in trustworthy Artificial Intelligence: From AI principles, ethics, and key requirements to responsible AI systems and regulation. Information Fusion, 99, 101896. https://doi.org/10.1016/j.inffus.2023.101896Фадеева, Т. Е. (2023). «Союз» художника с нечеловеческим агентом - утопия или рабочая модель художественного производства? Известия Самарского научного центра Российской академии наук. Социальные, гуманитарные, медико-биологические науки, 25, 1(88), 108-115. https://doi.org/10.37313/2413-9645-2023-25-88-108-115Fadeeva, T. E. (2023). “Union” of an artist with a non-human agent: utopia or a working model of artistic production? Izvestiya of the Samara Science Centre of the Russian Academy of Sciences. Social, Humanitarian, Biomedical Sciences, 25(88), 108-115. (In Russ.). https://doi.org/10.37313/2413-9645-2023-25-88-108-115Aiken, W., Kim, H., Woo, S. S., & Ryoo, J. (2021). Neural network laundering: Removing black-box backdoor watermarks from deep neural networks. Computers & Security, 106, 102277. https://doi.org/10.1016/j.cose.2021.102277Fenwick, M., & Jurcys, P (2023). Originality and the future of copyright in an age of generative AI. Computer Law & Security Review, 105892. https://doi.org/10.1016/j.clsr.2023.105892Cao, F., Wang, T., Guo, D., Li, J., & Qin, C. (2023). Screen-shooting resistant image watermarking based on lightweight neural network in frequency domain. Journal of Visual Communication and Image Representation, 94, 103837. https://doi.org/10.1016/j.jvcir.2023.103837Küçükkömürler, S., & Özkan, T. (2022). Political interest across cultures: The role of uncertainty avoidance and trust. International Journal of Intercultural Relations, 91, 88-96. https://doi.org/10.1016/j.ijintrel.2022.09.004Dfaz-Rodrfguez, N., Del Ser, J., Coeckelbergh, M., De Prado, M. L., Herrera-Viedma, E., & Herrera, F. (2023).Liu, G., Xiang, R., Liu, J., Pan, R., & Zhang, Z. (2022). An invisible and robust watermarking scheme using convolutional neural networks. Expert Systems With Applications, 210, 118529. https://doi.org/10.1016/j.eswa.2022.118529Connecting the dots in trustworthy Artificial Intelligence: From AI principles, ethics, and key requirements to responsible AI systems and regulation. Information Fusion, 99, 101896. https://doi.org/10.1016/j.inffus.2023.101896Panteleev, A. F. (2023). The problem of comparative evaluation of paintings created by an artist and generated by a neural network. Izvestiya of Saratov University. Philosophy. Psychology. Pedagogy, 23(3), 326-330. (In Russ.). https://doi.org/10.18500/1819-7671-2023-23-3-326-330Fenwick, M., & Jurcys, P (2023). Originality and the future of copyright in an age of generative AI. Computer Law & Security Review, 105892. https://doi.org/10.1016/j.clsr.2023.105892Patil, A. P., & Shelke, R. (2023). An effective digital audio watermarking using a deep convolutional neural network with a search location optimization algorithm for improvement in Robustness and Impercepetibility. High-Confidence Computing, 100153. https://doi.org/10.1016/j.hcc.2023.100153Küçükkömürler, S., & Özkan, T. (2022). Political interest across cultures: The role of uncertainty avoidance and trust. International Journal of Intercultural Relations, 91, 88-96. https://doi.org/10.1016/j.ijintrel.2022.09.004Somenkov, S. A. (2019). Artificial intelligence: from object to subject? Courier of the Kutafin Moscow State Law University, 2(54), 75-85. (In Russ.). https://doi.org/10.17803/2311-5998.2019.54.2.075-085Liu, G., Xiang, R., Liu, J., Pan, R., & Zhang, Z. (2022). An invisible and robust watermarking scheme using convolutional neural networks. Expert Systems With Applications, 210, 118529. https://doi.org/10.1016/j.eswa.2022.118529Sparkes, M. (2022). AI copyright. New Scientist, 256(3407), 17. https://doi.org/10.1016/s0262-4079(22)01807-3Patil, A. P., & Shelke, R. (2023). An effective digital audio watermarking using a deep convolutional neural network with a search location optimization algorithm for improvement in Robustness and Impercepetibility. High-Confidence Computing, 100153. https://doi.org/10.1016/j.hcc.2023.100153Stepanov, M. A. (2022). De-Autonomy of Post-Human Imagination: New Directions in the Theory of Art. Actual Problems of Theory and History of Art (No.12, pp. 663-673). (In Russ.). http://dx.doi.org/10.18688/aa2212-07-53Sparkes, M. (2022). AI copyright. New Scientist, 256(3407), 17. https://doi.org/10.1016/s0262-4079(22)01807-3Stokel-Walker, C. (2023). ChatGPT's knowledge of copyrighted novels highlights legal uncertainty of AI. New Scientist, 258(3438), 13. https://doi.org/10.1016/s0262-4079(23)00837-0Stokel-Walker, C. (2023). ChatGPT's knowledge of copyrighted novels highlights legal uncertainty of AI. New Scientist, 258(3438), 13. https://doi.org/10.1016/s0262-4079(23)00837-0Stroppe, A. (2023). Left behind in a public services wasteland? On the accessibility of public services and political trust. Political Geography, 105, 102905. https://doi.org/10.1016/j.polgeo.2023.102905Stroppe, A. (2023). Left behind in a public services wasteland? On the accessibility of public services and political trust. Political Geography, 105, 102905. https://doi.org/10.1016/j.polgeo.2023.102905Swain, M., & Swain, D. (2022). An effective watermarking technique using BTC and SVD for image authentication and quality recovery. Integration, 83, 12-23. https://doi.org/10.1016/j.vlsi.2021.11.004Swain, M., & Swain, D. (2022). An effective watermarking technique using BTC and SVD for image authentication and quality recovery. Integration, 83, 12-23. https://doi.org/10.1016/j.vlsi.2021.11.004Torres, G. & Bellinger, N. (2014). The Public Trust: The Law's DNA. Cornell Law Faculty Publications. Paper 1213. http://scholarship.law.cornell.edu/facpub/1213Torres, G. & Bellinger, N. (2014). The Public Trust: The Law's DNA. Cornell Law Faculty Publications. Paper 1213. http://scholarship.law.cornell.edu/facpub/1213Wan, Y., & Lu, H. (2021). Copyright protection for AI-generated outputs: The experience from China. Computer Law & Security Review, 42, 105581. https://doi.org/10.1016/j.clsr.2021.105581Wan, Y., & Lu, H. (2021). Copyright protection for AI-generated outputs: The experience from China. Computer Law & Security Review, 42, 105581. https://doi.org/10.1016/j.clsr.2021.105581Yuan, Z., Zhang, X., Wang, Z., & Yin, Z. (2024). Semi-fragile neural network watermarking for content authentication and tampering localization. Expert Systems With Applications, 236, 121315. https://doi.org/10.1016/j.eswa.2023.121315Yuan, Z., Zhang, X., Wang, Z., & Yin, Z. (2024). Semi-fragile neural network watermarking for content authentication and tampering localization. Expert Systems With Applications, 236, 121315. https://doi.org/10.1016/j.eswa.2023.121315Yuan, Z., Zhang, X., Wang, Z., & Yin, Z. (2024). Semi-fragile neural network watermarking for content authentication and tampering localization. Expert Systems With Applications, 236, 121315. https://doi.org/10.1016/j.eswa.2023.121315

The authors declare that there are no conflicts of interest present.