به نقل از «خبرگزاری برنا»

سازندگان چت بات: هنوز نمیدانیم چطور باید در فرآیندی دموکراتیک خطرات هوش مصنوعی را کنترل کرد!

تاریخ انتشار: ۴ خرداد ۱۴۰۲ | کد خبر: ۳۷۸۲۵۲۴۶

مدیرعامل اوپن.ای.آی و دو نفر از موسسان این شرکت در نامه‌ای درخواست کردند تا نهادی بین‌المللی برای کنترل خطرات حیاتی هوش مصنوعی ایجاد شود.

گروه علمی و فناوری خبرگزاری برنا؛ مدیران و توسعه دهندگان فناوری چت‌بات ChatGPT خود اکنون بیش از هرکس دیگری نگران شوری آشی شده‌اند که اخیراً پخته‌اند،  گسترش روزافزون نگرانی‌ها دربارۀ ابعاد خطرناک هوش مصنوعی و اثرات ویرانگی که می‌تواند بر زندگی بشر بگذارد، سبب شده است تا آن‌ها خواستار تشکیل سازمانی معادل «آژانس انرژی اتمی» شوند تا مقرراتی بین‌المللی برای کنترل هوش مصنوعی وضع کند.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

«گرگ براکمن» و «ایلیا سوتسکور» و «سم آلتمن»، مدیرعامل اوپن.ای.آی به عنوان مدیران ارشد توسعه دهندۀ این فناوری، خواهان تشکیل یک نهاد تنظیم‌گر بین‌المللی برای مدیریت مخاطرات هوش مصنوعی، وضع مقرراتی جهت کار بر روی نحوه بازرسی سیستم‌ها، ممیزی، آزمایش انطباق با استاندارد‌های ایمنی، و اعمال محدودیت‌هایی در درجات استقرار و سطوح امنیتی شدند.

تاثیر ۱۰ ساله هوش مصنوعی بر زندگی بشر

براساس گزارش گاردین انگلیس افراد مذکور معتقدند که آن روز دور نیست که در کمتر از ۱۰ سال آینده، سیستم‌های هوش مصنوعی در بیشتر حوزه‌ها از سطح مهارت‌های متخصص فراتر بروند و کارکردی برابر با بزرگترین شرکت‌های امروزی پیدا کنند! از نظر جنبه‌های مثبت و منفی احتمالی، ابر هوش قوی‌تر از سایر فناوری‌هایی است که بشر در گذشته مجبور به مبارزه با آن‌ها بوده است. 

این نامه می‎گوید که ما می‌توانیم آینده‌ای به طور چشمگیری مرفه‌تر داشته باشیم اما برای رسیدن به آن باید ریسک را مدیریت کنیم. 

نویسندگان نامۀ مذکور خواهان ایجاد هماهنگی بین شرکت‌های بزرگی هستند که در زمینۀ هوش مصنوعی تحقیقات پیشرفته انجام می‌دهند تا توسعه این فناوری علاوه بر تسهیل زندگی مردم، در حالتی ایمن اتفاق بیافتد.

آن‌ها معتقدند که ایجاد هماهنگی مزبور از طریق یک پروژه تحت مدیریت دولت‌ها یا از طریق یک توافق جمعی برای محدود کردن رشد در قابلیت‌های هوش مصنوعی انجام‌پذیر است.

خطرات توسعه بی‌ضابطه هوش مصنوعی چیست؟

پژوهشگران بیش از یک‌دهه است که درباره خطرات احتمالی ابر هوش هشدار می‌دهند اما با افزایش سرعت توسعه هوش مصنوعی، این خطرات جدی‌تر شده است.

مرکز ایمنی هوش مصنوعی (CAIS) مستقر در آمریکا که در زمینه کاهش خطرات اجتماعی ناشی از هوش مصنوعی فعالیت می‌کند، خطرات بسیار مهم توسعۀ بی‌ضابطۀ هوش مصنوعی را در هشت گروه دسته‌بندی کرده است.

در حالی که برخی نگران این هستند که یک هوش مصنوعی قدرتمند به طور تصادفی یا عمدی بشریت را نابود کند، CAIS آسیب‌های مخرب دیگری را توصیف می‌کند. جهانی که در آن سیستم‌های هوش مصنوعی به طور داوطلبانه نیروی کار بیشتری را به دست می‌آورند، می‌تواند به «از دست دادن توانایی خودگردانی و وابستگی کامل به ماشین‌ها از سوی بشر» منجر شود که به عنوان «ناتوانی» توصیف می‌شود. 

همچنین گروه کوچکی از افراد که سیستم‌های قدرتمند را کنترل می‌کنند، می‌توانند هوش مصنوعی را به یک نیروی متمرکز تبدیل در جهت پیشبرد اهداف خود تبدیل کنند.

مدیران اوپن.ای.آی اعتقاد دارند که مردم جهان باید به طور دموکراتیک از محدودیت‌ها و پیش فرض‌های سیستم‌های هوش مصنوعی آگاه شوند و دربارۀ نحوۀ مواجهه با آن تصمیم بگیرند اما اذعان دارند که «ما هنوز نمی‌دانیم چگونه چنین مکانیزمی را طراحی کنیم.» ولی آن‌ها در عین حال معتقدند که توسعه مداوم سیستم‌های قدرتمند ارزش ریسک را دارد. 

انتهای پیام/

آیا این خبر مفید بود؟

نتیجه بر اساس رای موافق و رای مخالف

منبع: خبرگزاری برنا

کلیدواژه: مایکروسافت هوش مصنوعی آخر الزمان دیپ فیک چت بات اوپن ای آی چت GPT انقراض انسان هوش مصنوعی سیستم ها

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.borna.news دریافت کرده‌است، لذا منبع این خبر، وبسایت «خبرگزاری برنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۸۲۵۲۴۶ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

هوش مصنوعی زندگی‌ها را نجات می‌دهد/ کاهش ۹۰ درصدی مرگ و میر بیماران قلبی

به گزارش خبرگزاری علم و فناوری آنا به نقل از نیوساینتیس، یک سیستم هوش مصنوعی اثبات کرده است که می‌تواند با هشدار دادن به پزشکان برای بررسی بیمارانی که نتایج آزمایش قلب به خطر مرگ اشاره دارد، جان آن‌ها را نجات دهد. در یک آزمایش بالینی تصادفی با تقریباً ۱۶ هزار بیمار در دو بیمارستان، هوش مصنوعی میزان مرگ و میر بیماران پرخطر را به میزان ۳۱ درصد کاهش داد.

اریک توپول از مؤسسه تحقیقاتی اسکریپس در کالیفرنیا، که در این تحقیق شرکت نداشت، می‌گوید: این واقعاً فوق‌العاده است. بسیار نادر است که یک دارو ۳۱ درصد مرگ و میر را کاهش دهد، و حتی این مورد برای موارد غیردارویی نادرتر است درحالی که این فقط نظارت بر افراد با هوش مصنوعی است.

چین لین در مرکز پزشکی دفاع ملی تایوان و همکارانش ابتدا هوش مصنوعی خود را بر روی بیش از ۴۵۰ هزار آزمایش الکتروکاردیوگرام (ECG) که فعالیت الکتریکی قلب را به همراه داده‌های بقای افراد اندازه گیری می‌کند، آموزش دادند. هوش مصنوعی یاد گرفت که خطر مرگ هر بیمار را با یک امتیاز درصدی نشان دهد. بر این اساس افرادی که حداقل ۹۵ درصد را کسب می‌کنند، به عنوان خطر بالا در نظر گرفته می‌شوند.

سپس محققان سیستم هشدار هوش مصنوعی را با ۳۹ پزشک در دو بیمارستان مختلف آزمایش کردند. هنگامی که پرستاران نتایج آزمایش‌های الکتروکاردیوگرام هر بیمار جدید را به یک سرور کامپیوتری بارگذاری می‌کردند، سیستم هوش مصنوعی نتایج را تجزیه و تحلیل می‌کرد و در صورتی که بیمار را پرخطر تشخیص می‌داد، سریعاً به پزشکان هشدار می‌داد.

سیستم هوش مصنوعی علاوه بر کاهش خطر مرگ به دلایل مختلف، مرگ و میر بیماران پرخطر ناشی از مشکلات قلبی را تا بیش از ۹۰ درصد کاهش داد.

لین و همکارانش حدس زدند که پیش‌بینی‌های هوش مصنوعی ممکن است به تمرکز روی گروه‌های پرخطر کمک کند. پزشکان معمولاً هشدار‌ها را با آزمایش‌های تشخیصی بیشتر و درمان‌های اضافی دنبال می‌کنند.

سیستم هشدار هوش مصنوعی در حال حاضر در ۱۴ بیمارستان نظامی در تایوان استفاده می‌شود.

توپول می‌گوید: این را می‌توان در هر بیمارستانی در سراسر جهان اجرا کرد از این رو نباید گران باشد.

انتهای پیام/