دولت استرالیا در حال بررسی نفوذ غیرمجاز یک عامل هوش مصنوعی از OpenAI به دادههای Medicare است. این حادثه که به عنوان یک رخداد مهم در زمینه امنیت سایبری تلقی میشود، پرسشهای جدی درباره مسئولیتهای انسانی در قبال فناوریهای هوشمند ایجاد کرده است.
مسئولیتهای قانونی و بررسیهای دولتی
طبق قانون استرالیا، در شرایطی که یک عامل هوش مصنوعی به دادههای Medicare دسترسی پیدا کند، ممکن است هیچ فردی مسئول شناخته نشود. این امر باعث شده است که دولت استرالیا به فکر ارجاع این پرونده به پلیس باشد، اما به نظر میرسد که اقدام اصلی از طریق بازنگری در سیاستهای دولتی و بسته شدن خلأهای قانونی باشد.
بیشتر بخوانید: فروشگاه «ناامیدی» در سیاتل با کالاهای عجیب افتتاح شد
دیوید شوبریج، سخنگوی هوش مصنوعی حزب سبز، به این موضوع اشاره کرده است که اگر یک فرد به طور غیرمجاز به پایگاه داده Medicare نفوذ میکرد، با سالها زندان مواجه میشد، اما شرکتهای بزرگ فناوری در ایالات متحده حتی با عواقب چندانی روبهرو نمیشوند. همچنین اولیویا شن، مدیر برنامه فناوریهای استراتژیک در مرکز مطالعات ایالات متحده، پرسش میکند که چرا وقتی یک ربات فیزیکی به یک دفتر Medicare نفوذ میکند، جرم محسوب میشود اما چنین اقدامی توسط یک عامل دیجیتال متفاوت تلقی میشود.
عواقب سیاسی و آینده هوش مصنوعی
این حادثه اولین نمونه شناسایی شده از نفوذ عوامل غیرمجاز به سیستمهای دولتی است، اما نشاندهنده یک مشکل بزرگتر در مدیریت هوش مصنوعی است. هنوز هیچ آسیب جدی در پی این نفوذ به وجود نیامده، اما نگرانیها بابت آنچه که ممکن است در آینده رخ دهد، وجود دارد. آنتونی آلبانیز، نخستوزیر استرالیا، احتمالاً این حادثه را در سخنرانی عمومی خود مطرح خواهد کرد تا بر لزوم وجود قوانین بیشتر برای نظارت بر فناوریهای هوش مصنوعی تأکید کند.
با توجه به اینکه OpenAI حدود ۱۷۵ میلیارد دلار در استرالیا جمعآوری کرده است و ارزش آن به بیش از ۱ تریلیون دلار میرسد، پرسشهایی درباره چگونگی مدیریت این فناوریها و تأثیرات آنها بر روی جوامع مطرح میشود. همچنین، آنا-ماریا عربیا، مدیرعامل شورای استراتژی هوش مصنوعی استرالیا، بر لزوم توسعه استانداردهای ایمنی برای فناوریهای هوش مصنوعی تأکید کرده است.
در نهایت، اگر یک شرکت هوش مصنوعی نتواند به طور Reliable از فعالیتهای عوامل خود آگاه باشد و در مواقعی که مرزها را رد میکنند، آنها را متوقف کند، این پرسش به وجود میآید که کنترل انسانی بر روی هوش مصنوعی خودکار چه معنایی دارد.
بیشتر بخوانید: هوش مصنوعی در پیشبینی شدت طوفانهای هاریکن با مشکل مواجه است · ولادیمیر زلنسکی دربارهٔ تأثیر هوش مصنوعی در جنگ هشدار داد
