بیمه به عنوان راهکاری برای کاهش ریسک‌های ناشی از عملکرد سیستم‌های هوش مصنوعی

نوع مقاله : مقاله پژوهشی

نویسنده

دانش‌آموخته دکتری حقوق خصوصی، دانشکده حقوق و علوم سیاسی، واحد کرج، دانشگاه آزاد اسلامی، کرج، ایران

چکیده
با وجود گسترش و توسعه هوش مصنوعی در تمامی جنبه‌های زندگی انسان‌ها، مشکلات مربوط به مسئولیت ناشی از عملکرد هوش مصنوعی همچنان حل نشده باقی مانده است. یکی از مهم‌ترین راهکارها برای حل این مشکلات، بیمه مسئولیت سیستم‌های هوش مصنوعی است. بیمه قادر است به‌عنوان یک ابزار نظارتی و حاکمیت، ضمن هدایت رفتار نهادهای مرتبط با بیمه، در حل مسائل پیچیده مسئولیتی نیز راهگشا باشد. این پژوهش با بهره‌گیری از روش توصیفی- تحلیلی، به بررسی بیمه‌پذیری سیستم‌های هوش مصنوعی و تأثیر صنعت بیمه بر هوش مصنوعی با وجود زیرساخت‌های کنونی اختصاص دارد. این مقاله راهکارهایی در جهت حل موانع صنعت بیمه برای بیمه سیستم‌های هوش مصنوعی به نحوی که در عین تشویق به توسعه و نوآوری، به صورت پیشگیرانه مانع بروز خسارات و در صورت بروز آسیب و خسارات، به‌طور کامل جبران شود، ارائه می‌کند. نتایج این تحقیق نشان می‌دهد بیمه‌پذیری هوش مصنوعی با موانعی مواجه است اما این موانع می‌تواند از طریق راهکاریی مانند تنظیم‌گری دولت‌ها، بیمه‌های اتکایی، اوراق بهادار بیمه‌ای، بیمه اجباری و صندوق جبران خسارت بر طرف شود. از این جهت بیمه هوش مصنوعی نقش تنظیم‌گری را ایفا کرده و در کنار دیگر قوانین می‌تواند موجب پیشگیری از بروز خسارات شود، ضمن آن که جبران ریسک‌های ناشی از این خسارات صرفاً بر تولیدکنندگان تحمیل نشود.

کلیدواژه‌ها

موضوعات

عنوان مقاله English

Insurance as a Solution for Reducing Risks Arising from the Operation of Artificial Intelligence Systems

نویسنده English

Seyed Amirali Hosseini
Ph.D, Private Law, Faculty of Law and Political Science, Karaj Branch, Islamic Azad University, Karaj, Iran
چکیده English

1. Introduction
Artificial intelligence (AI) has now permeated nearly all aspects of human life. Looking toward the future, it can be said that its scope of influence will expand to such an extent that it may fully replace many human functions. Despite the rapid expansion and continuous improvement of AI technologies across various sectors, there remains a significant gap in addressing the legal liability challenges arising from the operation of these technologies.
This article aims to examine the concept of “AI insurance” as a potential solution for mitigating liabilities associated with artificial intelligence—an approach that simultaneously promotes innovation and safety. The primary objective is to establish a framework that not only encourages continuous development but also proactively prevents potential harm and, in the event of damage, ensures full compensation.
Research Questions
1. Is it possible to insure AI systems?
2. What are the main obstacles to insuring AI systems?
3. How can practical solutions overcome these obstacles?
2. Literature Review
The risks arising from artificial intelligence necessitate the development of new policies or the establishment of new insurance infrastructures. None of these proposals have yet received full approval from the legal and insurance communities, and insurance policies covering this technology remain in an experimental phase. In 1996, Karnow proposed one of the earliest models for AI insurance. According to this proposal, only registered AI systems would be covered by insurance, and programmers would be required to obtain certification and pay premiums for their AI systems prior to distribution and sale. Consequently, manufacturers would be obligated to purchase liability insurance policies to cover damages to third-parties caused by AI systems.
A more recent proposal concerns the use of AI in the medical field. This approach argues that a well-designed AI liability insurance scheme could reduce risks and uncertainties for stakeholders, thereby safeguarding the interests of patients, physicians, and hospitals. Numerous proposals have also been presented regarding mandatory insurance for autonomous vehicles.
However, Iranian law has not yet specifically addressed the issue of insuring AI systems. Therefore, this research examines the impact of the insurance industry on artificial intelligence and the feasibility of providing insurance coverage for damages resulting from AI operations. Given that scholars and legislators have not yet provided a satisfactory solution to the issue of liability arising from AI, this study explores the role of insurance in controlling and mitigating damages caused by artificial intelligence.
3. Research Methodology
This study employs a descriptive-analytical method to examine the insurability of AI systems and the impact of the insurance industry on artificial intelligence given the existing infrastructure. The article proposes solutions to overcome the obstacles faced by the insurance industry in insuring AI systems, with the aim of encouraging development and innovation, proactively preventing potential harm, and ensuring full compensation in the event of injury or damage.
4. Results and Discussion
The insurance industry is currently undergoing a necessary transformation to align itself with disruptive technologies. This transformation requires considerable time and effort to design insurance policies tailored to emerging risks. Such a complex shift is accompanied by numerous challenges and may encounter multiple obstacles that create uncertainty regarding its effectiveness. Nevertheless, the growing demand for efficient insurance policies—particularly in the field of artificial intelligence—is likely to motivate insurers and policyholders to collaboratively seek solutions tailored to these specific risks. Insurers are naturally inclined to develop coverage that promises profitability; therefore, they will likely adopt a cautious approach toward new AI-related insurance products, especially given the unpredictable nature of potential damages resulting from AI operations. Determining accurate premiums remains a major challenge, as assessing risks associated with AI technologies involves inherent uncertainties. Insurers must adopt strategic approaches to distribute these risks effectively. In this context, concepts such as “insurance pools” become significant, as they enable collective agreements among insurers to share risks arising from emerging technologies and contribute to market stabilization.
One of the key factors influencing the adoption of insurance policies for AI systems is the question of who exercises primary control over the technology. Depending on the circumstances and the type of system, the responsibility for obtaining insurance may fall on manufacturers or users. A common concern is that many individuals and businesses may delay purchasing insurance coverage until it becomes a legal requirement.
The challenges of AI insurance extend beyond the inherent difficulties of the insurance industry itself. These challenges include the unpredictable and often opaque nature of AI decision-making, as well as complex liability issues that may hinder the development of coherent insurance frameworks. The multilayered and intricate characteristics of AI have generated numerous disputes and difficulties in efforts to formulate effective liability solutions. Although the insurance industry has not yet fully grasped the implications of artificial intelligence, there is growing awareness that traditional insurance policies require modification and adaptation to effectively address emerging technological advancements. This necessity is particularly evident in the Iranian insurance market, where even older challenges—such as cybersecurity-related issues—have not yet been fully resolved.
Given the tangible consumer demand for AI-based insurance and the rapid pace of AI development, the need for the insurance industry to keep pace with these changes is increasingly apparent. Individuals and businesses seek deterrence and reassurance; insurance provides a sense of security and assures customers that they will be protected against unforeseen threats. When designing AI-related insurance products, careful attention must be paid to the specific characteristics of AI systems, the nature of their operations, and the associated risks. Each policy must be crafted with great precision and tailored to the unique needs of each client.
5. Conclusion
At first glance, the function of insurance may be perceived merely as a tool for compensating losses and reducing risk for the policyholder. However, its deeper impact can serve as an incentive for manufacturers to actively pursue risk-prevention and loss-mitigation strategies. In this way, insurance can play a regulatory role—one that, while providing necessary security, also creates a supportive environment for sustained innovation.
Despite the many challenges ahead, the insurance industry possesses the capacity to overcome these obstacles, particularly if supported by influential institutions. Consequently, the role of policymakers and regulatory authorities is crucial. Supervisory bodies—whether through legislation or by acting as reinsurers—can play a significant role in establishing the necessary infrastructure and incentives to support the development of insurance products aligned with the AI ecosystem.

کلیدواژه‌ها English

Artificial Intelligence
Civil Liability Insurance
Insurance Prevention and Deterrence
Behavior Regulation
Moral Hazard
مقاله‌ها
-       اشراقی آرانی، مجتبی، «تحلیل اقتصادی موانع کارایی قرارداد بیمه با تأملی بر راهکارهای حقوق بیمه ایران»، فصلنامه دیدگاه‌های حقوق قضائی، دوره 25، شماره 89 - شماره پیاپی 89 ، (1399) .
-       ابدالی، مهرزاد، «بررسـی کارایی بیمه اجباری وسیله نقلیـه با نگاه تحلیل اقتصادی حقوق»، دوفصلنامۀ علمی حقوق تطبیقی، دوره 0، شماره 23 - شماره پیاپی 94، (1391).
-       امیرشاه کرمی، سیدحمید، شاکری، زهرا، «چشم‌اندازی از نظام حق اختراع در پرتو کاربرد هوش مصنوعی»، سیاستنامه علم و فناوری، دوره 13، شماره 2 - شماره پیاپی 43، (1402).
-       آقاپور حسین بیگی، هادی، نوری، جعفر و  نعم، مختار، «پوشش خسارات ناشی از خطر توسعه علم در پرتوی مسئولیت مدنی»، پژوهش حقوق خصوصی، دوره 10، شماره 38، (1401)،
doi: 10.22054/jplr.2022.63288.2607.
-       باریکلو، علیرضا، سید هاشمی، نعمت الله، «تاثیر بیمه بر بازدارندگی حقوق مسئولیت مدنی»، مطالعات حقوق تطبیقی معاصر، دوره 6، شماره 11- شماره پیاپی 11، (1394).
-       پاسبان، محمدرضا، طوسی، عباس و مظاهری، محمدرضا، «به کارگیری هوش مصنوعی به عنوان مدیر شرکت‌های تجاری»، پژوهش حقوق خصوصی، دوره 12، شماره 44، (1402)،
doi: 10.22054/jplr.2023.75192.2772.
-       تیموری، مهرداد، کاظمی، سید سجاد، «مسئولیت‌ کیفری ناشی از نقض فاحش حقوق بین‌الملل بشردوستانه توسط سیستم‌های تسلیحاتی خودمختار هوشمند به‌مثابه جنایت جنگی»، حقوق جزای بین‌الملل، دوره 3، شماره 2، (1404) .
-       جهان‌بین، سید عبادالله و زارعی، محمدحسین، «نگرشی بر ضرورت‌های مقررات‌گذاری مطلوب در صنعت بیمه کشور (با نگاهی به استانداردهای  IAIS)»، پژوهشنامه بیمه، دوره 3، شماره 4، (1393)،
doi: 10.22056/ijir.2014.04.10.
-       حاجی اسماعیلی، میلاد، «چالش‌های مسئولیت مدنی هوش مصنوعی در نظام حقوقی ایران؛ با نگاهی به مقررات‌گذاری در اتحادیه اروپا»، نشریه علمی «دولت و حقوق»، دوره 5، شماره 1 - شماره پیاپی 15، (1403).
-       حاجی پور، مرتضی و مولایی، یوسف، «تعهد افشای پیش قراردادی بیمه‌گذار در حقوق ایران و انگلیس»، پژوهشنامه بیمه، دوره 9، شماره 2 - شماره پیاپی 32، (1399)،  .doi: 10.22056/ijir.2020.02.07
-       ذاکری نیا، حانیه و غلامپور، زهرا، «الگوریتم‌های معقول و متعارف و تقویت نظریه قابلیت انتساب مسئولیت مدنی هوش مصنوعی»، حقوق فناوری‌های نوین، دوره 5، شماره 9، (1403)،
doi: 10.22133/mtlj.2023.406159.1224.
-       رهبر، نوید و دهقان‌پور فراشاه، سبحان، «بررسی تطبیقی مبنای مسئولیت مدنی در تصادفات وسایل ‌نقلیۀ خودران»، مطالعات حقوق تطبیقی، دوره 12، شماره 2، (1400)،
doi: 10.22059/jcl.2021.320449.634169.
-       صالحی مازندرانی محمدخلیل و سلیمی، فضه، «بررسی تحلیلی- تطبیقی بیمه اتکایی در فقه، حقوق ایران و اتحادیه اروپایی»، دیدگاه‌های حقوق قضایی، دوره ۱۸، شماره ۶۲، (۱۳۹۲).
-       کیال، مهرنوش، باقری، محمود، زارعی، محمد حسین و هاشمی، سید محمد، «مطالعه تطبیقی ساختار تنظیم و نظارت بیمه در ایالات متحده امریکا و ایران»، مطالعات حقوق تطبیقی، دوره 10، شماره 1، (1398)،
doi: 10.22059/jcl.2019.256710.633662.
-       کمالی دولت‌آبادی، مهدی و صفری، امیر، «بررسی ابعاد گوناگون دخالت دولت در بازار بیمه»، بیستمین همایش ملی بیمه و توسعه، (1392)، https://civilica.com/doc/825665.
-       گرگانی، مصطفی، اصل حداد، احمد و شهریار، بهنام، «محاسبه نرخ بهره بهینه اوراق قرضه فاجعه‌آمیز بیمه رشته آتش‌سوزی کشور با استفاده از رویکرد نظریه مقدار کرانی»، تحقیقات مالی، دوره 14، شماره 1 - شماره پیاپی 1، (1391)، .doi: 10.22059/jfr.2012.36637
-       نیاکان، لیلی، بهبودی راد، زینب و سوری، علی، «بررسی نظریه‎‌های تنظیم‌‎گری در صنعت بیمه ایران»، دانشنامه حقوق اقتصادی، دوره 31، شماره 25 - شماره پیاپی 25، (1403)،
doi: 10.22067/economlaw.2024.86713.1349.
-       هاشمی، سیده هاله، ابهری، حمید و فلاح خاریکی، مهدی، «تحلیل خسارت متناظر در پرتو نظریه‌ جبران جمعی خسارت»، پژوهشنامه بیمه، دوره 11، شماره 3 - شماره پیاپی 41، (1401)،. doi:
doi: 10.22056/ijir.2022.03.01.
-       منتظری شورکچالی، مجتبی و دیگران، «طراحی اوراق بهادار بیمه‌ای در صنعت بیمه ایران»، پژوهشنامه اقتصاد کلان، دوره 19، شماره 43، (1403)، doi: 10.22080/mrl.2024.27745.2116.
وب‌سایت
-       سلامت بخش، فرزانه، «۹۰ درصد سهم بازار بیمه اتکایی در اختیار بیمه مرکزی است/ ۶۷ درصد سهم بخش خصوصی در صنعت بیمه»، خبرگزاری جمهوری اسلامی، https://www.irna.ir/news/84726444 (آخرین بازدید۱۳ خرداد ۱۴۰۴).
References
Books
-       Turner, Jacob, Robot Rules: Regulating Artificial Intelligence (United State: ‎ Palgrave Macmillan, 2019).
-       Raymond, Kurzweil, The Age of Intelligent Machines, First Ed (United States: Cambridge, 1990).
Articles
-       Abraham, Kenneth S., “Four Conceptions of Insurance”, U. Pa. L. Rev. Vol. 161, Issue 3/1, (2013).
-       Abraham, Kenneth S & Baker, Tom, “What History Can Tell Us about the Future of Insurance and Litigation after COVID-19”, 71 DEPAUL L. REV, Vol. 71, Issue 2/2, (2022), Available at: https:// ssrn. com/ abstract=3990981.
-       Baker, Tom & Swedloff, Rick, “Regulation by Liability Insurance: From Auto to Lawyers Professional Liability”, UCLA Law Review, Vol. 60, No. 6, (2013).
-       Bathaee, Yavar, “The Artificial Intelligence Black Box and the Failure of Intent and Causation”, Harvard Journal of Law & Technology, Vol. 31, Issue 2, (2018). https:// api. semanticscholar. org/ Corpus ID:158988823.
-       Ben-Shahar, Omri & Logue, Kyle D, “Outsourcing Regulation: How Insurance Reduces Moral Hazard”, Mich. L. Rev. 197, Vol. 111, Issue 2, (2012), Available at SSRN: https://ssrn.com/abstract=2796642.
-       Bertolini, Andrea, “Artificial Intelligence and Civil Liability”, Policy Department for Citizen’s Rights and Constitutional Affairs, (2020).
-       Boardman, Michelle, “Known Unknowns: The Illusion of Terrorism Insurance”, Georgetown Law Journal, Vol.93, Issue 3, (2005), Available at SSRN: https://ssrn.com/abstract=995293.
-       Carayannopoulos, Peter; Kovacs, Paul & Leadbetter, Darrell, “Insurance Securitization: Catastrophic Event Exposure and the Role of Insurance Linked Securities in Addressing Risk”, Institute for Catastrophic Loss Reduction Research Paper Series, (2003), http:// www. iclr. org/ publicpolicysecuritizati.html.
-       Chesterman, Simon, “Artificial Intelligence and the Limits of Legal Personality”, International & Comparative Law Quarterly, Vol. 69, Issue 4, (2020), Available at SSRN: https:// ssrn. com/ abstract=3682372.
-       Chen, Bill & Chen, Dongmei, “The Review and Analysis of Compulsory Insurance”, Journal of Insurance Markets and Companies: Analyses and Actuarial Computations, Vol. 4, Issue 1, (2012), doi: 10.13140/2.1.3751.2964.
-       Doherty, Neil A & Clifford Smith, “Corporate Insurance Strategy: The Case of British Petroleum”, Journal of Applied Corporate Finance, Morgan Stanley, Vol. 32, Issue 1, (2020). DOI:10.1111/jacf.12388.
-       Graham, Kyle, “Of Frightened Horses and Autonomous Vehicles: Tort Law and Its Assimilation of Innovations”, Santa Clara L. Rev, Vol. 52, Issue 4, (2012), Available at: https://ssrn.com/abstract=2008507.
-       Geistfeld, Mark A, “A Roadmap for Autonomous Vehicles: State Tort Liability, Automobile Insurance, and Federal Safety Regulation”, Law & Economics Journal, Vol. 215, No. 17, (2017), DOI:10.15779/ Z38416SZ9R.
-       Henson, Renee, “Government-Backed Insurance for Artificial Intelligence Technologies”, University of Missouri School of Law Legal Studies Research Paper, Vol. 41, Issue 3, (2025), http:// dx.doi. org/10.2139/ssrn.5226107.
-       Herbosch, Maarten, “Liability for AI Agents”, North Carolina Journal of Law & Technology, Vol. 26, Issue 3, (2025), http://dx. doi.org/ 10.2139/ssrn.5236649.
-       Davey, James, “By Insurers, For Insurers: The UK’s Liability Regime for Autonomous Vehicles”, Journal of Tort Law, Vol. 13, Issue 2, (2020), doi: 10.1515/jtl-2020-2010.
-       Lior, Anat, “Insurability of Artificial Intelligence Algorithms and Robots – A Different Version of the Same Policy”, The Federmann Cyber Security Center– Cyber Law Program, (2019), https:// csrcl. huji. ac. il/blog/anat-liorInsurability-AI [https://perma.cc/HGG2-DSFZ].
-       Lior, A, “AI Strict Liability Vis-À-Vis AI Monopolization”, Science and Technology Law Review, Vol. 22, Issue 1, (2021),  https://doi.org/ 10.52214/stlr.v22i1.8055.
-       Lior, Anat, “Innovating Liability: The Virtuous Cycle of Torts, Technology and Liability Insurance”, YALE J.L & TECH. 448, Vol. 25, (2023), Available at: SSRN: https://ssrn.com/abstract=4568702.
-       Surden, Harry, “Artificial Intelligence and Law: An Overview”, Georgia State University Law Review, Vol. 35, Issue 1, (2019), Available at: https://ssrn.com/abstract=3411869.
-       Scherer, Matthew U, “Of Wild Beasts and Digital Analogues: The Legal Status of Autonomous Systems”, Nevada Law Journal, Vol. 19, Issue 1, (2019), Available at: https://scholars.law.unlv.edu/nlj/vol19/iss1/8.
-       Stern, Ariel Dora, Avi Goldfarb, Timo Minssen & W. Nicholson Price II, “AI Insurance: How Liability Insurance Can Drive the Responsible Adoption of Artificial Intelligence in Health Care”, New England Journal of Medicine Catalyst, Vol. 3, Issue 4, (2022), DOI: https://doi.org/ 10.1056/CAT.21.0242.
Case
-       Terrorism Risk Insurance Act, (TRIA), 15 U.S.C. § 6701.https://www.govinfo.gov/content/pkg/PLAW-107publ297/html/PLAW-107publ297.htm.