دولتهای آمریکا و چین در شرایطی حساسی به دنبال برقراری گفتوگوهایی درباره امنیت هوش مصنوعی هستند. در حالی که وزیر خزانهداری آمریکا، اسکات بسنت، برای دیدار با معاون نخستوزیر چین، هه لیفنگ، آماده میشود، رئیسجمهور دونالد ترامپ هشدارهای عمومی درباره خطرات هوش مصنوعی را به عنوان «تقلید» رد کرده است. از سوی دیگر، یک مقاله در روزنامه دولتی چین دیلی، شرکتهای پیشرو آمریکایی را به استفاده از درخواستها برای کاهش سرعت پیشرفتهای هوش مصنوعی متهم کرده است.
نیاز به گفتوگو بر سر هوش مصنوعی
هیچیک از ایالات متحده و چین هنوز آمادگی برای کاهش سرعت پیشرفتهای خود را ندارند و اعتماد متقابلی نیز وجود ندارد. سیستمهای هوش مصنوعی به سرعت در حال پیشرفت هستند و نمیتوانند منتظر دیپلماسی بمانند. اما این واقعیتها به این معنا نیست که ترامپ و شی جینپینگ میتوانند از فراخوانهای فزاینده برای گفتوگو در مورد هوش مصنوعی غفلت کنند. هرگونه گفتوگو باید از دو دام رایج دیپلماسی آمریکا و چین اجتناب کند: تعیین اهدافی که آنقدر پایین باشد که مذاکرات بیمعنی شوند یا آنقدر بالا که توافق غیرممکن گردد.
بیشتر بخوانید: مجلس نمایندگان طرحی برای کاهش هزینههای برق مراکز داده تصویب کرد
اهداف قابل دستیابی برای مذاکرات
اگر اهداف خیلی پایین باشند، گفتوگو به یک عکس و یک بیانیه کلی درباره ترویج نوآوری و کاهش خطرات تبدیل میشود. اگر اهداف خیلی بالا باشند و به دنبال محدودیتهای گسترده بر توسعههای مرزی باشند که هیچکدام از طرفین اعتماد سیاسی یا ظرفیت تأیید و اجرا ندارند، این دیدار به شکست خواهد انجامید. هدف بهتری که در کوتاهمدت میتوان دنبال کرد، این است که آمریکا و چین به طور موازی بر روی ایمنی هوش مصنوعی کار کنند و پیشرفتهای خود را در عمل نشان دهند. این تلاش باید در تبادلهای فنی متمرکز باشد که سیستمهای هوش مصنوعی هر کشور را بر اساس شرایط خودشان ایمنتر کند.
دو کشور همچنین باید یک پروتکل برای ارتباط درباره حوادث نوظهور هوش مصنوعی ایجاد کنند تا قبل از اینکه به بحرانهای بینالمللی تبدیل شوند، در مورد آنها گفتوگو کنند. این مراحل نمایانگر پیشرفت معنادار خواهند بود و از بیانیههای بلندپروازانه یا تعهدات غیرقابل تأیید باارزشتر هستند.
اهمیت تبادلهای فنی
دولت ترامپ باید به دنبال تبادلهای فنی باشد که چگونه مدلها را برای قابلیتها و رفتارهای خطرناک آزمایش کند. این موارد شامل سیستمهای هوش مصنوعی است که میتواند به آماتورها در توسعه سلاحهای بیولوژیک کمک کند یا از نظارت و کنترل انسانی فرار کند. شرکتهای هوش مصنوعی آمریکایی سالهاست که این خطرات را مطالعه کردهاند و این خطرات همچنین در استانداردهای فنی چین مربوط به آزمایش ایمنی آغاز به ظهور کردهاند. تبادل بهترین شیوهها و بینشهای جدید در مورد چگونگی آزمایش و کاهش این خطرات میتواند سیستمهای ساخته شده در هر دو کشور را به طور معناداری ایمنتر کند.
پروتکل ارتباطی در مواقع بحران
این دیپلماسی بیشتر شبیه به مذاکره بر سر یک پیمان کنترل تسلیحات وسیع نیست، بلکه به ایجاد شیوهها و رویههای ایمنی مشترک برای فناوریای مربوط میشود که هیچیک از دولتها به طور کامل آن را نمیفهمند یا کنترل نمیکنند. اصل این است که واشنگتن باید به پکن اعتماد کند یا بالعکس، بلکه هیچیک از کشورها بهرهمند نخواهد بود اگر دیگری کنترل یک سیستم قدرتمند را از دست بدهد.
برای اینکه این رویکرد مؤثر باشد، باید با یک پروتکل ارتباطی در مواقع بحران بین دولتها همراه باشد. اگر یک مدل هوش مصنوعی آمریکایی از کنترل شرکت خود خارج شود و شبکههای یک شرکت یا دولت چین را هک کند، چه باید کرد؟ اگر یک پهپاد چینی مجهز به هوش مصنوعی به یک کشتی نیروی دریایی آمریکا حمله کند و هیچیک از طرفین نتوانند به سرعت تعیین کنند که آیا این حادثه تصادفی بوده یا عمدی، چه باید کرد؟
اینها خطرات وجودی نیستند که رئیسجمهور ترامپ رد کرده است، اما آنها نزدیک به حوادثی هستند که در حال حاضر در زمان واقعی در حال وقوع هستند. این دو کشور نیاز دارند تا زیرساختهای ابتدایی برای مقابله با این حوادث را فراهم کنند. موفقیت یا شکست کانال ارتباطی بستگی به طراحی عملیاتی آن خواهد داشت.
بیشتر بخوانید: تنش در صنعت هوش مصنوعی بر سر چگونگی تنظیم این فناوری · OpenAI شش مورد رفتار نگرانکننده هوش مصنوعی را شناسایی کرد
