Journal of Arak University of Medical Sciences

fa فراتر از الگوریتم: ضرورت تدوین قوانین اخلاقی برای حفظ حریم خصوصی داده‌های سلامت در عصر هوش مصنوعی The Ethical and Legal Imperative in the Age of AI: Safeguarding Patient Data and Privacy in Healthcare عمومى General نامه به سردبیر Editorial ادغام سریع هوش مصنوعی (Artificial Intelligence) AI در علوم پزشکی، هرچند با وعده‌های تحول‌آفرین در تشخیص زودهنگام و درمان‌های شخصی‌سازی‌شده همراه است (1)، اما یک چالش اخلاقی و حقوقی عمیق را به همراه دارد: مدیریت حجم عظیم، حساس و بی‌سابقه داده‌های سلامت و حفظ حریم خصوصی بیماران. ماهیت این داده‌ها، که شامل سوابق بالینی، تصاویر رادیولوژی، داده‌های ژنتیکی و حتی اطلاعات پوشیدنی‌های سلامت فردی است (2)، فراتر از اطلاعات هویتی سنتی است و قابلیت بازسازی پروفایل کامل یک فرد را داراست؛ امری که هویت‌زدایی کامل و دائم آن‌ها را عملاً ناممار می‌سازد (1). این حجم گسترده از اطلاعات به سوخت اصلی الگوریتم‌های یادگیری عمیق تبدیل شده است، اما هر گونه نقض یا افشا، می‌تواند منجر به تبعیض جدی در دسترسی به بیمه، استخدام و حتی تصمیم‌گیری‌های قضایی شود (2). فقدان شفافیت (Transparency) در مورد چگونگی پردازش و تحلیل این داده‌ها توسط الگوریتم‌ها، که اغلب به صورت «جعبه سیاه» عمل می‌کنند، اعتماد بیماران و پزشکان را تضعیف می‌کند (3). کادر درمان نمی‌توانند فرآیند تصمیم‌گیری هوش مصنوعی را درک کنند، و این مسئله نه تنها مانع از پذیرش بالینی می‌شود، بلکه یک منطقه خاکستری حقوقی در مورد مسئولیت‌پذیری در صورت بروز خطای تشخیصی یا درمانی ایجاد می‌کند (4). چالش حقوقی موجود در این است که قوانین فعلی حریم خصوصی برای مواجهه با الگوریتم‌های پیشرفته و جمع‌آوری داده‌های لحظه‌ای طراحی نشده‌اند (1، 4). هوش مصنوعی با ایجاد روش‌های نوین استخراج دانش از داده‌های خام، دائماً از چارچوب‌های قانونی موجود پیشی می‌گیرد. علاوه بر این، ابزارهای هوش مصنوعی به دلیل اتکا به شبکه‌های داده‌ای بزرگ، در معرض حملات سایبری پیشرفته قرار دارند، که می‌تواند منجر به افشای گروهی داده‌های محرمانه شود (5). در نتیجه، در غیاب یک چارچوب حکمرانی داده‌های محکم و به‌روز، پتانسیل هوش مصنوعی برای بهبود سلامت عمومی با خطر تضعیف کرامت انسانی و نقض حقوق بنیادی بیمار همراه است (6). برای تضمین اینکه نوآوری‌های هوش مصنوعی با رعایت اصول اخلاقی و حقوقی پیش می‌رود، ضروری است که اقداماتی عاجل در جهت ایجاد یک چارچوب نظارتی جامع صورت پذیرد. این امر نیازمند تدوین یک مدل جدید و پویا از رضایت آگاهانه است که فراتر از رضایت یک‌باره باشد و به بیماران اجازه دهد تا بر نحوه استفاده از داده‌هایشان در مراحل مختلف آموزش و به‌کارگیری هوش مصنوعی کنترل مستمر و آگاهانه داشته باشند. همزمان، باید توسعه‌دهندگان را موظف کرد که حفاظت از حریم خصوصی را در هسته طراحی هر ابزار هوش مصنوعی قرار دهند، که به معنای استفاده از تکنیک‌های پیشرفته حفظ حریم خصوصی مانند حریم خصوصی تفاضلی و یادگیری فدرال برای پردازش داده‌ها در محل است. علاوه بر این، باید با تشکیل یک نهاد نظارتی چند رشته‌ای متشکل از متخصصان اخلاق، حقوق، علوم کامپیوتر و بالینی، هر ابزار هوش مصنوعی قبل از ورود به محیط بالینی، تحت یک فرآیند ارزیابی و تأیید اخلاقی و فنی دقیق و شفاف قرار گیرد تا از تعصبات احتمالی و خطاهای الگوریتمی جلوگیری شود.این اقدامات نه تنها بیماران را در برابر سوءاستفاده محافظت می‌کند، بلکه اعتماد لازم برای پیشبرد پایدار و ایمن این فناوری حیاتی را نیز در جامعه فراهم می‌آورد.   The rapid integration of Artificial Intelligence (AI) into medical sciences, while promising transformative breakthroughs in early diagnosis and personalized treatments (1), introduces a profound ethical and legal challenge: the management of the vast, sensitive, and unprecedented volume of health data and the preservation of patient privacy. The nature of this data, which includes clinical records, radiological images, genetic data, and even data from wearable health devices 2, extends beyond traditional identifiable information. It possesses the capability to reconstruct a comprehensive profile of an individual, rendering complete and permanent de-identification virtually impossible (1). This massive volume of information has become the main fuel for deep learning algorithms, but any breach or disclosure could lead to serious discrimination in access to insurance, employment, and even judicial decision-making (2). The lack of Transparency regarding how these data are processed and analyzed by the algorithms, which often function as a "black box," erodes the trust of both patients and physicians (3). Healthcare providers cannot understand the AI's decision-making process, which not only hinders clinical adoption but also creates a legal gray area concerning accountability in the event of diagnostic or therapeutic error (4). The current legal challenge stems from the fact that existing privacy laws were not designed to address advanced algorithms and real-time data collection (1, 4). AI constantly outpaces existing legal frameworks by creating novel methods of knowledge extraction from raw data. Furthermore, due to their reliance on large data networks, AI tools are exposed to advanced cyberattacks, which could lead to the mass disclosure of confidential data (5). Consequently, in the absence of a robust and up-to-date data governance framework, AI's potential to improve public health is accompanied by the risk of undermining human dignity and violating fundamental patient rights (6). To ensure that AI innovations advance with ethical and legal compliance, urgent measures must be taken to establish a comprehensive regulatory framework. This requires formulating a new, dynamic model of informed consent that goes beyond a one-time agreement, allowing patients continuous and informed control over how their data is used at different stages of AI training and deployment. Concurrently, developers must be mandated to embed privacy protection at the core design of every AI tool, which means utilizing advanced privacy-preserving techniques such as differential privacy and federated learning for on-premise data processing. Additionally, a multi-disciplinary oversight body composed of ethics, legal, computer science, and clinical experts must be established, ensuring that every AI tool undergoes a rigorous and transparent ethical and technical assessment and approval process before entering the clinical environment, thereby preventing potential biases and algorithmic errors. These measures will not only protect patients against misuse but also provide the necessary trust for the sustainable and safe advancement of this vital technology in society هوش مصنوعی؛ اخلاق پزشکی؛ حریم خصوصی داده‌ها؛ داده‌های سلامت؛ جعبه سیاه (الگوریتم) Artificial Intelligence (AI), Medical Ethics, Data Privacy, Health Data, Black Box (Algorithm) 320 323 http://jams.arakmu.ac.ir/browse.php?a_code=A-10-7900-3&slc_lang=fa&sid=1 Miramirhossein Seyednazari میرامیرحسین سیدنظری amirhosseinseyednazari@gmail.com 4600319475328460091685 0009-0008-4637-0521 No MSc. in Internal-Surgical Nursing, Department of Internal-Surgical Nursing, School of Medical Sciences, Khoy, Iran گروه پرستاری داخلی جراحی، دانشکده علوم پزشکی خوی، خوی، ایران Hamed Gholizad Gougjehyaran حامد قلیزادگوگجه یاران h.gholizad1991@gmail.com 4600319475328460091686 4600319475328460091686 No Student Research Committee, Tabriz University of Medical Sciences, Tabriz, Iran کمیته تحقیقات دانشجویی، دانشگاه علوم پزشکی تبریز، تبریز، ایران Amin Sohaili امین سهیلی soheili_a@khoyums.ac.ir 4600319475328460091687 4600319475328460091687 No Associate Professor, Department of Nursing, Student Research Committee, Khoy University of Medical Sciences, Khoy, Iran دانشیار، گروه پرستاری، کمیته تحقیقات دانشجویی، دانشکده علوم پزشکی خوی، خوی، ایران Amirmohammad Drosti امیرمحمد درستی amirdorosti2006@gmail.com 4600319475328460091688 4600319475328460091688 Yes MSc Student, Medical-Surgical Nursing, Student Research Committee, Khoy School of Medical Sciences, Khoy, Iran دانشجوی کارشناسی ارشد پرستاری داخلی و جراحی، کمیته تحقیقات و فناوری دانشجویی، دانشکده علوم پزشکی خوی، خوی، ایران Rasul Asghari رسول اصغری rasulasgharirasul@gmail.com 4600319475328460091689 0009-0005-5607-3377 No BSc in Nursing, Department of Nursing, School of Medical Sciences, Khoy, Iran گروه پرستاری، دانشکده علوم پزشکی خوی، خوی، ایران