جیکوب کاکسون، محقق سابق هوش مصنوعی که به تازگی از آنتروپیک استعفا داده است، در یک مصاحبه جنجالی به نگرانیهای جدی درباره ایمنی فناوریهای هوش مصنوعی اشاره کرد. او در این گفتگو با ابراز تأسف گفت که "زمان کافی" برای کارکنان وجود ندارد تا به خطرات مدلهایی که توسعه میدهند، فکر کنند.
عدم توجه به ایمنی
کاکسون در برنامه "این هفته" شبکه ABC، نسبت به این نکته تأکید کرد که خطرات ایمنی "بهطور قطع در اولویت ذهنی" کارکنان شرکتهای هوش مصنوعی نیست. این اظهارات او سؤالات جدیتری را درباره مسئولیتهای اخلاقی و ایمنی در صنعت هوش مصنوعی مطرح میکند.
بیشتر بخوانید: مایک فلوود: هوش مصنوعی باید تحت کنترل باشد!
او ادامه داد: "اگر شما در حال کار بر روی پروژهای هستید که ممکن است تأثیرات جدی بر زندگی انسانها داشته باشد، طبیعی است که باید به ایمنی آن فکر کنید. اما واقعیت این است که در این صنعت، زمان به شدت محدود است و فشارهای زیادی وجود دارد که افراد را به سمت تولید سریعتر محصولات سوق میدهد."
فشارهای صنعتی و عواقب آن
کاکسون با اشاره به فرهنگ کار در شرکتهای هوش مصنوعی، اظهار داشت که فشار برای رقابت و پیشرفت سریع ممکن است به نادیده گرفتن خطرات بالقوه منجر شود. او تأکید کرد که "ما باید با این واقعیت روبرو شویم که تکنولوژیهای ما میتوانند عواقب غیرقابل پیشبینی داشته باشند و این نیاز به دقت و توجه بیشتری دارد."
این اظهارات کاکسون در حالی مطرح میشود که بسیاری از کارشناسان و پژوهشگران دیگر نیز نسبت به پیامدهای منفی و ناخواسته فناوریهای هوش مصنوعی هشدار میدهند. این صنعت در حال حاضر در آستانه تحولی بزرگ قرار دارد و نگرانیها درباره ایمنی و اخلاق در استفاده از این فناوریها روز به روز بیشتر میشود.
بیشتر بخوانید: سوپرمارکت «تازه از بام»؛ سالادهایی که در چند قدمی صندوقها رشد میکنند · Anthropic جلوی تحقیقاتی خطرناک در زمینه سلاحهای زیستی را گرفت
