digitallawJournal of Digital Technologies and LawJournal of Digital Technologies and Law2949-2483Kazan Innovative University named after V. G. Timiryasov10.21202/jdtl.2024.31chpespdigitallaw-471Research ArticleARTICLESСТАТЬИUsing Artificial Intelligence in Employment: Problems and Prospects of Legal RegulationИспользование искусственного интеллекта при найме работников: проблемы и перспективы правового регулированияhttps://orcid.org/0000-0003-2727-5357НовиковД. A.NovikovD. A.

Новиков Денис Александрович – кандидат юридических наук, доцент, доцент кафедры трудового и социального права

199034, г. Санкт-Петербург, Университетская наб., 7–9

Scopus Author ID: https://www.scopus.com/authid/detail.uri?authorId=57218897105  

WoS Researcher ID: https://www.webofscience.com/wos/author/record/CAA-7871-2022

Google Scholar ID: https://scholar.google.com/citations?user=gEjH4S4AAAAJ

РИНЦ Author ID: https://elibrary.ru/author_items.asp?authorid=1149154

Denis A. Novikov – Cand. Sci. (Law), Associate Professor, Department of Labor and Social Law

7–9 Universitetskaya nab., 199034 Saint Petersburg

Scopus Author ID: https://www.scopus.com/authid/detail.uri?authorId=57218897105  

WoS Researcher ID: https://www.webofscience.com/wos/author/record/CAA-7871-2022

Google Scholar ID: https://scholar.google.com/citations?user=gEjH4S4AAAAJ 

RSCI Author ID: https://elibrary.ru/author_items.asp?authorid=1149154

d.novikov@spbu.ruСанкт-Петербургский государственный университетРоссияSaint Petersburg State UniversityRussian Federation20240911202423611635Copyright © Novikov D.A., 20242024Новиков Д.A.Novikov D.A.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://www.lawjournal.digital/jour/article/view/471Objective

Objective: to identify the legal problems of using artificial intelligence in hiring employees and the main directions of solving them.

Methods

Methods: formal-legal analysis, comparative-legal analysis, legal forecasting, legal modeling, synthesis, induction, deduction.

Results

Results: a number of legal problems arising from the use of artificial intelligence in hiring were identified, among which are: protection of the applicant’s personal data, obtained with the use of artificial intelligence; discrimination and unjustified refusal to hire due to the bias of artificial intelligence algorithms; legal responsibility for the decision made by a generative algorithm during hiring. The author believes that for the optimal solution of these problems, it is necessary to look at the best practices of foreign countries, first of all, those which have adopted special laws on the regulation of artificial intelligence for hiring and developed guidelines for employers using generative algorithms for similar purposes. Also, the European Union’s and USA’s legislative work in the area of managing risks arising from the use of artificial intelligence should be taken into account.

Scientific novelty

Scientific novelty: the article contains a comprehensive study of legal problems arising from the use of artificial intelligence in hiring and foreign experience in solving these problems, which allowed the author to develop recommendations to improve Russian legislation in this area. As for the problem of applicants’ personal data protection when using artificial intelligence for hiring, the author proposes to solve it by supplementing the labor legislation with norms that enshrine the requirements for transparency and consistency in the collection, processing and storage of information when using generative algorithms. The list and scope of personal data allowed for collection should be reflected in a special state standard. The solution to the problem of discrimination due to biased algorithms is seen in the mandatory certification and annual monitoring of artificial intelligence software for hiring, as well as the prohibition of scoring tools for evaluating applicants. The author adheres to the position that artificial intelligence cannot “decide the fate” of a job seeker: the responsibility for the decisions made by the algorithm is solely on the employer, including in cases of involving third parties for the selection of employees.

Practical significance

Practical significance: the obtained results can be used to accelerate the development and adoption of legal norms, rules, tools and standards in the field of using artificial intelligence for hiring. The lack of adequate legal regulation in this area creates significant risks both for human rights and for the development of industries that use generative algorithms to hire employees.

Цель

Цель: определить правовые проблемы использования искусственного интеллекта при найме работников и обозначить основные направления их решения.

Методы

Методы: формально-юридический и сравнительно-правовой анализ, правовое прогнозирование, правовое моделирование, синтез, индукция, дедукция.

Результаты

Результаты: выявлен ряд правовых проблем, возникающих при использовании искусственного интеллекта (ИИ) при найме работни ков, среди которых защита персональных данных соискателя, получаемых при применении искусственного интеллекта; дискриминация и необоснованный отказ в приеме на работу из-за предвзятости алгоритмов искусственного интеллекта; юридическая ответственность за принятое генеративным алгоритмом решение при найме работника. Автор полагает, что для оптимального решения указанных проблем необходимо обратить внимание на передовой опыт зарубежных стран, прежде всего на те страны, где приняты специальные законы о регулировании применения ИИ при найме работников и выработаны руководства для работодателей, применяющих генеративные алгоритмы в аналогичных целях. Кроме того, следует учесть законотворческую работу Европейского союза и США в сфере управления рисками, возникающими при использовании ИИ.

Научная новизна

Научная новизна: в работе проведено комплексное исследование правовых проблем, возникающих при использовании ИИ при найме работников, зарубежного опыта их решения, что позволило автору выработать рекомендации по усовершенствованию российского законодательства в данной сфере. Проблему защиты персональных данных соискателей при использовании искусственного интеллекта для найма автор предлагает решить путем дополнения трудового законодательства нормами, закрепляющими требования по прозрачности и согласованности сбора, обработки и хранения информации при применении генеративных алгоритмов. Перечень и объем допустимых для сбора персональных данных следует отобразить в специальном государственном стандарте. Решение проблемы дискриминации из-за предвзятости алгоритмов видится в обязательной сертификации и ежегодном мониторинге программ искусственного интеллекта для найма, а также запрете скоринговых инструментов оценки соискателей. Автор придерживается позиции, что искусственный интеллект не может «вершить судьбу» соискателя: ответственность за решения, принятые алгоритмом о найме, возлагается исключительно на работодателя, в том числе в случаях привлечениях третьих лиц для осуществления подбора работников.

Практическая значимость

Практическая значимость: полученные результаты могут быть использованы для ускорения разработки и принятия правовых норм, правил, инструментов и стандартов в сфере использования ИИ для найма работников. Отсутствие надлежащего правового регулирования в данной сфере создает существенные риски как для прав человека, так и для развития отраслей экономики, в которых задействуются генеративные алгоритмы в целях найма работников.

алгоритмзаконискусственный интеллектнаем работникаперсональные данныеправоработникработодательтрудовое правоцифровые технологииalgorithmartificial intelligencedigital technologiesemployeeemployerhiring of an employeelabor lawlawlegislationpersonal dataReferencesНовиков, Д. А. (2023). Критические замечания относительно либерального понимания в социологических и правовых исследованиях феномена труда в информационном обществе. Ежегодник трудового права, 13, 81–91. https://doi.org/10.21638/spbu32.2023.105Basu, N., & Dave, R. (2024). Artificial intelligence and job sector – need for laws. Educational Administration: Theory And Practice, 30(3), 690–701. https://doi.org/10.53555/kuey.v30i3.1337Федосеева, О. В. (2021). К вопросу о создании и развитии эмоционального искусственного интеллекта. Россия: тенденции и перспективы развития, 16-1, 674–676.Bigman, Y. E., Wilson, D., Arnestad, M. N., Waytz, A., & Gray, K. (2023). Algorithmic discrimination causes less moral outrage than human discrimination. Journal of Experimental Psychology: General, 152(1), 4–27. https://doi.org/10.1037/xge0001250Харитонова, Ю. С., Савина, В. С., Паньини, Ф. (2021). Предвзятость алгоритмов искусственного интеллекта: вопросы этики и права. Вестник Пермского университета. Юридические науки, 53, 488–515. https://doi.org/10.17072/1995-4190-2021-53-488-515Chen, L., Ma, R., Hannák, A. & Wilson, C. (2018). Investigating the impact of gender on rank in resume search engines. Proceedings of the 2018 chi conference on human factors in computing systems, 651, 1–14. https://doi.org/10.1145/3173574.3174225Хисамова, З. И., Бегишев, И. Р. (2020). Сущность искусственного интеллекта и проблема определения правосубъектности. Московский юридический журнал, 2, 96–106. https://doi.org/10.18384/2310 6794-2020-2-96-106Chen, Z. (2023). Ethics and discrimination in artificial intelligence-enabled recruitment practices. Humanities and Social Sciences Communications, 10. https://doi.org/10.1057/s41599-023-02079-xЩербакова, О. В. (2021). Использование программ искусственного интеллекта при найме работников. Электронное приложение к Российскому юридическому журналу, 3, 72–76. https://doi.org/10.34076/22196838_2021_3_72De Stefano, V. (2019). “Negotiating the algorithm”: automation, artificial intelligence and labor protection. Comparative Labor Law & Policy Journal, 41(1), 15–46. https://doi.org/10.2139/ssrn.3178233Basu, N., & Dave, R. (2024). Artificial intelligence and job sector – need for laws. Educational Administration: Theory And Practice, 30(3), 690–701. https://doi.org/10.53555/kuey.v30i3.1337Estrada, G, Coronado, M., Soria, Y., Jiménez, S., Cristobal, J., Torres, E., Camargo, M., Taipe, M., Aparicio, S., Luis, J., & Briceño B. (2024). Inteligencia artificial en la gestión de los recursos humanos. Revista de Climatolog´ıa Edici´on Especial Ciencias Sociales, 24, 2082–2092. (In Spanish).Bigman, Y. E., Wilson, D., Arnestad, M. N., Waytz, A., & Gray, K. (2023). Algorithmic discrimination causes less moral outrage than human discrimination. Journal of Experimental Psychology: General, 152(1), 4–27. https://doi.org/10.1037/xge0001250Fedoseeva, O. V. (2021). On creating and developing emotional artificial intelligence. Rossiya: tendencii i perspektivy razvitiya, 16-1, 674–676. (In Russ.).Chen, L., Ma, R., Hannák, A., & Wilson, C. (2018). Investigating the impact of gender on rank in resume search engines. In Proceedings of the 2018 CHI Conference on Human Factors in Computing Systems, 651, 1–14. https://doi.org/10.1145/3173574.3174225Fuller, J., B. Raman M., Sage-Gavin, E., Hines, K. et al. (2021). Hidden workers: untapped talent. Harvard Business School Project on Managing the Future of Work and Accenture.Chen, Z. (2023). Ethics and discrimination in artificial intelligence-enabled recruitment practices. Humanities and Social Sciences Communications, 10, 567. https://doi.org/10.1057/s41599-023-02079-xGinu, G., Mary, T., Anusha, B., & Anson, M. (2021). A systematic review of artificial intelligence and hiring: Present Position and Future Research Areas. Indian Journal of Economics and Business, 20(2), 57–70. http://dx.doi.org/10.5281/zenodo.5407602De Stefano, V. (2019). “Negotiating the algorithm”: automation, artificial intelligence and labor protection. Comparative Labor Law & Policy Journal, 41(1), 15–46. https://doi.org/10.2139/ssrn.3178233Haenlein, M. & Kaplan, A. (2019). A brief history of artificial intelligence: On the past, present, and future of artificial intelligence. California Management Review, 61(4), 5–14. https://doi.org/10.1177/0008125619864925Estrada, G, Coronado, M., Soria, Y., Jiménez, S., Cristobal, J., Torres, E., Camargo, M., Taipe, M., Aparicio, S., Luis, J., & Briceño B. (2024). Inteligencia artificial en la gestión de los recursos humanos. Revista de Climatolog´ıa Edici´on Especial Ciencias Sociales, 24, 2082–2092.Hisamova, Z. I., & Begishev, I. R. (2020). The nature of artificial intelligence and the problem of legal personality determination. Moscow Juridical Journal, 2, 96–106. (In Russ.). https://doi.org/10.18384/2310-6794 2020-2-96-106Fuller, J., B. Raman M., Sage-Gavin, E., Hines, K. et al. (2021). Hidden workers: untapped talent. Harvard Business School Project on Managing the Future of Work and Accenture.Hunkenschroer, A. L., & Kriebitz, A. (2023). Is AI recruiting (un)ethical? A human rights perspective on the use of AI for hiring. AI Ethics, 3, 199–213. https://doi.org/10.1007/s43681-022-00166-4Ginu, G., Mary, T., Anusha, B., & Anson, M. (2021). A systematic review of artificial intelligence and hiring: Present Position and Future Research Areas. Indian Journal of Economics and Business, 20(2), 57–70. http://dx.doi.org/10.5281/zenodo.5407602Ivanova, M., Bronowicka, J., Kocher, E., & Degner, A. (2018). The App as a Boss? Control and Autonomy in Application-Based Management: Working Paper. Europa-Universität Viadrina Frankfurt. https://doi.org/10.11584/arbeit-grenze-fluss.2Haenlein, M., & Kaplan, A. (2019). A brief history of artificial intelligence: On the past, present, and future of artificial intelligence. California Management Review, 61(4), 5–14. https://doi.org/10.1177/0008125619864925Jackson, M. (2021). Artificial intelligence & algorithmic bias: the issues with technology reflecting history & humans. Journal of Business & Technology Law, 16(2), 299–316.Hunkenschroer, A. L., & Kriebitz, A. (2023). Is AI recruiting (un)ethical? A human rights perspective on the use of AI for hiring. AI Ethics, 3, 199–213. https://doi.org/10.1007/s43681-022-00166-4Jarrahi, M. H. (2018). Artificial intelligence and the future of work: Human-AI symbiosis in organizational decision making. Business Horizons, 61(4), 577–586. https://doi.org/10.1016/j.bushor.2018.03.007Ivanova, M., Bronowicka, J., Kocher, E., & Degner, A. (2018). The App as a Boss? Control and Autonomy in Application-Based Management: Working Paper. Europa-Universität Viadrina Frankfurt. https://doi.org/10.11584/arbeit-grenze-fluss.2Kharitonova, Yu. S., Savina, V. S., & Pagnini, F. (2021). Artificial intelligence’s algorithmic bias: ethical and legal Issues. Perm University Herald. Juridical Sciences, 53, 488–515. (In Russ.). https://doi.org/10.17072/19954190-2021-53-488-515Jackson, M. (2021). Artificial intelligence & algorithmic bias: the issues with technology reflecting history & humans. Journal of Business & Technology Law, 16(2), 299–316.Köchling, A., & Wehner, M. C. (2020). Discriminated by an algorithm: a systematic preview of discrimination and fairness by algorithmic decision-making in the context of HR recruitment and HR development. Business Research, 13, 795–848. https://doi.org/10.1007/s40685-020-00134-wJarrahi, M. H. (2018). Artificial intelligence and the future of work: Human-AI symbiosis in organizational decision making. Business Horizons, 61(4), 577–586. https://doi.org/10.1016/j.bushor.2018.03.007Kuncel, N., Klieger, D., & Ones, D. (2014). In hiring, algorithms beat instinct. Harvard Business Review, 92(5), 32.Köchling, A., & Wehner, M. C. (2020). Discriminated by an algorithm: a systematic preview of discrimination and fairness by algorithmic decision-making in the context of HR recruitment and HR development. Business Research, 13, 795–848. https://doi.org/10.1007/s40685-020-00134-wLanger, M., Cornelius, J. K., & Andromachi, F. (2023). Information as a double-edged sword: the role of computer experience and information on applicant reactions towards novel technologies for personnel selection. Computers in Human Behavior, 81, 19–30. https://doi.org/10.1016/j.chb.2017.11.036Kuncel, N., Klieger, D., & Ones, D. (2014). In hiring, algorithms beat instinct. Harvard Business Review, 92(5), 32.Langer, M., König, C. J., Sanchez, D. R.-P., & Samadi, S. (2019). Highly automated interviews: applicant reactions and the organizational context. Journal of Managerial Psychology, 35(4), 301–314. https://doi.org/10.1108/jmp-09-2018-0402Langer, M., Cornelius, J. K., & Andromachi, F. (2023). Information as a double-edged sword: the role of computer experience and information on applicant reactions towards novel technologies for personnel selection. Computers in Human Behavior, 81, 19–30. https://doi.org/10.1016/j.chb.2017.11.036Lee, M. K. (2018). Understanding perception of algorithmic decisions: fairness, trust, and emotion in response to algorithmic management. Big Data & Society, 5(1), 1–16. https://doi.org/10.1177/2053951718756684Langer, M., König, C. J., Sanchez, D. R.-P., & Samadi, S. (2019). Highly automated interviews: applicant reactions and the organizational context. Journal of Managerial Psychology, 35(4), 301–314. https://doi.org/10.1108/ jmp-09-2018-0402Lőrincz, G. (2018). Kommentár a munka törvénykönyvéről szóló 2032. évi I. törvényhez: Munkajogi sci-fi. Pécsi Munkajogi Közlemények, 11(1-2), 7–34. (In Hungarian)Lee, M. K. (2018). Understanding perception of algorithmic decisions: fairness, trust, and emotion in response to algorithmic management. Big Data & Society, 5(1), 1–16. https://doi.org/10.1177/2053951718756684Lukács, A., & Váradi S. (2023). GDPR-compliant AI-based automated decision-making in the world of work. Computer Law & Security Review, 50, 105848. https://doi.org/10.1016/j.clsr.2023.105848Lőrincz, G. (2018). Kommentár a munka törvénykönyvéről szóló 2032. évi I. törvényhez: Munkajogi sci-fi. Pécsi Munkajogi Közlemények, 11(1-2), 7–34.Novikov, D. A. (2023). Critical remarks on the liberal understanding in sociological and legal studies of the phenomenon of labour in the information society. Russian Journal of Labour & Law, 13, 81–91. (In Russ.). https://doi.org/10.21638/spbu32.2023.105Lukács, A., & Váradi S. (2023). GDPR-compliant AI-based automated decision-making in the world of work. Computer Law & Security Review, 50, 105848. https://doi.org/10.1016/j.clsr.2023.105848Pradeep, T. (2024). Labour law in the era of artificial intelligence and automation. International Journal For Multidisciplinary Research, 6(2). https://doi.org/10.36948/ijfmr.2024.v06i02.16324Pradeep, T. (2024). Labour law in the era of artificial intelligence and automation. International Journal For Multidisciplinary Research, 6(2). https://doi.org/10.36948/ijfmr.2024.v06i02.16324Reddy, S. (2022). The legal issues regarding the use of artificial intelligence to screen social media profiles for the hiring of prospective employees. Obiter, 43(2), 113–131. https://doi.org/10.17159/obiter.v43i2.14254Reddy, S. (2022). The legal issues regarding the use of artificial intelligence to screen social media profiles for the hiring of prospective employees. Obiter, 43(2), 113–131. https://doi.org/10.17159/obiter.v43i2.14254Serova, A. V., & Shcherbakova, O. V. (2022). The employee’s right to privacy transformation: digitalization challenges. Kutafin Law Review, 9(3), 437–465. https://doi.org/10.17803/2713-0525.2022.3.21.437-465Serova, A. V., & Shcherbakova, O. V. (2022). The employee’s right to privacy transformation: digitalization challenges. Kutafin Law Review, 9(3), 437–465. https://doi.org/10.17803/2713-0525.2022.3.21.437-465Shcherbakova, O. V. (2021). The use of artificial intelligence programs when recruiting employees. Electronic Supplement to the Russian Juridical Journal, 3, 72–76. (In Russ.). https://doi.org/10.34076/22196838_2021_3_72Sivathanu, B., & Pillai, R. (2018). Smart HR 4.0 – how industry 4.0 is disrupting HR. Human Resource Management International Digest, 26(4), 7–11. https://doi.org/10.1108/hrmid-04-2018-0059Sivathanu, B., & Pillai, R. (2018). Smart HR 4.0 – how industry 4.0 is disrupting HR. Human Resource Management International Digest, 26(4), 7–11. https://doi.org/10.1108/hrmid-04-2018-0059

The authors declare that there are no conflicts of interest present.