فناوری روز
پیامدهای تصویب نخستین قانون هوش مصنوعی در اروپا
امروزه برنامههای کاربردی هوش مصنوعی به طور فزایندهای برای تصمیمگیریهای مهم در مورد زندگی انسانها مورد استفاده قرار میگیرند بدون اینکه نظارت یا مسؤولیتپذیری کافی در مورد آنها وجود داشته باشد. این شرایط میتواند عواقب مخربی داشته باشد. برهمین اساس، اتحادیه اروپا «قانون هوش مصنوعی» را تدوین کرده است؛ اولین قانونی که هدف آن مهار این آسیبهاست و اگر در این کار موفق شود، میتواند استاندارد جهانی جدیدی برای نظارت بر هوش مصنوعی در سراسر جهان ایجاد کند. این لایحه در حال حاضر از سوی اعضای پارلمان اروپا و کشورهای اتحادیه اروپا در حال اصلاح است.
جزئیات بیشتری از این قانون
قانون هوش مصنوعی مستلزم بررسیهای بیشتر در مورد استفادههای «پرخطر» از این فناوری است که بیشترین ظرفیت آسیب رساندن به افراد را دارند. پیشنویس اول این لایحه همچنین شامل ممنوعیت استفادههای «غیرقابلقبول» از هوش مصنوعی است؛ ازجمله امتیازدهی به افراد براساس قابل اعتماد بودن آنها. این لایحه همچنین استفاده سازمانهای مجری قانون از هوش مصنوعی برای تشخیص چهره در مکانهای عمومی را محدود میکند. اگر اتحادیه اروپا موفق به اجرای این قانون شود، یکی از قویترین محدودیتها برای این فناوری اعمال خواهد شد.
برخی از ایالتها و شهرهای آمریکا هماکنون محدودیتهایی را در مورد تشخیص چهره اعمال کردهاند اما ممنوعیت اتحادیه اروپا برای 27 کشور و جمعیتی بیش از 447 میلیون نفر اعمال میشود. براندو بنیفی، نماینده ایتالیایی پارلمان اروپا که یکی از اعضای کلیدی تیم اصلاحکننده این لایحه است، میگوید: با تصویب این قانون مردم میتوانند مطمئن باشند از مضرترین اشکال هوش مصنوعی محافظت میشوند. لایحه مذکور این الزام را ایجاد میکند که وقتی افراد با فناوری جعل عمیق (Deepfake)، سیستمهای تشخیص هویت زیستسنجی (بیومتریک) یا برنامههای هوش مصنوعی که ادعا میکنند قادر به خواندن احساساتشان هستند مواجه میشوند به آنها اطلاع داده شود.
اجرای این قانون و چالشها
مارک روتنبرگ، رئیس مرکز هوش مصنوعی و سیاست دیجیتال، سازمانی غیرانتفاعی که هوش مصنوعی را ردیابی میکند، میگوید: شرکتهای آمریکایی در نهایت استانداردها را برای مصرفکنندگان آمریکایی، مطابق با قانون هوش مصنوعی اتحادیه اروپا، بالاتر خواهند برد.
در حال حاضر برخی از الزامات این لایحه از نظر فنی غیرممکن است ازجمله ایجاد این الزام که مجموعه دادهها عاری از خطا باشند و انسانها بتوانند «بهطور کامل» نحوه عملکرد سیستمهای هوش مصنوعی را درک کنند. مجموعههای دادهای که برای آموزش سیستمهای هوش مصنوعی استفاده میشود بسیار گسترده است و حتی اگر تأیید چنین چیزی امکانپذیر بود، بررسی این حجم از دادهها از این نظر که کاملا بدون خطا باشند، به هزاران ساعت کار نیاز داشت.
امروزه شبکههای عصبی مصنوعی بهقدری پیچیده هستند که حتی سازندگان آنها بهطور کامل نمیدانند چگونه به نتیجه میرسند. شرکتهای فناوری همچنین از الزامات دسترسی حسابرسان یا تنظیمکنندههای خارجی به کد منبع و الگوریتمها بهمنظور اجرای قانون، عمیقا ناراضی هستند.
میریام ووگل، رئیس و مدیرعامل ایکوال ایآی، سازمان غیرانتفاعی که روی کاهش سوءگیری ناخودآگاه در هوش مصنوعی کار میکند، میگوید: پیشنویس فعلی، نارضایتی زیادی ایجاد میکند زیرا مردم احساس میکنند نمیتوانند از مقرراتی پیروی کنند که در این پیشنویس آورده شده است. درکنار اختلاف بزرگی که در مورد میزان استفاده از هوش مصنوعی در تشخیص چهره وجود دارد دعوای بزرگ دیگر بر سر این است که چه نوع هوش مصنوعی باید بهعنوان «پرخطر» طبقهبندی شود. دو اردوگاه متضاد وجود دارد؛ یکی ترس از اینکه دامنه وسیع مقررات باعث کندی نوآوری شود و دیگری اینکه این لایحه آنگونه که هست، به اندازه کافی برای محافظت از مردم در برابر آسیبها جدی نباشد.
زمان اجرا
حداقل یک سال دیگر طول خواهد کشید تا متن نهایی این قانون مشخص شود و چند سالی هم طول خواهد کشید تا کسبوکارها ملزم به رعایت آن شوند. این احتمال وجود دارد که تعیین جزئیات چنین لایحه جامعی با این همه عناصر بحثبرانگیز مدت طولانیتری طول بکشد.
منبع: Technology Review.com
مترجم: یاسمین مشرف - گروه دانش