[ad_1]

در اکتبر 2019 آیداهو پیشنهاد تغییر برنامه Medicaid خود را داده است. این ایالت نیاز به تأیید دولت فدرال داشت ، که از طریق Medicaid.gov درخواست بازخورد عمومی کرد.

تقریباً 1000 نظر دریافت شد. اما نیمی از آنها مربوط به شهروندان نگران یا حتی ترول های اینترنتی نیستند. آنها توسط هوش مصنوعی تولید می شوند. و یک مطالعه نشان داد که مردم نمی توانند نظرات واقعی را از نظرات جعلی بیان کنند.

این پروژه کار ماکس ویس ، دانشجوی پزشکی باهوش فنی در دانشگاه هاروارد بود ، اما در آن زمان توجه زیادی به او نشد. اکنون ، با توسعه سریع سیستم های زبان AI ، برخی می گویند دولت و شرکت های اینترنتی باید در مورد روش مورد نظر خود تجدید نظر کنند و بازخورد را بررسی کنند تا از دستکاری متون جعلی عمیق و سایر تداخل های AI-based جلوگیری کنند.

لاتانیا سوئینی ، استاد دانشکده هاروارد کندی که به ویسی در مورد چگونگی توصیه آزمایش را از نظر اخلاقی انجام می دهد.

سوینی می گوید این مشکلات فراتر از خدمات دولتی است ، اما ضروری است آژانس های دولتی راه حلی پیدا کنند. وی گفت: “هوش مصنوعی می تواند گفتار افراد واقعی را غرق کند.” “وب سایت های دولتی باید تغییر کنند.”

مراکز خدمات مدیکر و مدیکاید گفتند که آنها در پاسخ به نظرسنجی ویس پادمان های جدیدی را به سیستم نظرات عمومی اضافه کرده اند ، اگرچه آنها از بحث در مورد جزئیات خودداری کردند. ویس می گوید که از طرف دولت خدمات عمومی ایالات متحده با وی تماس گرفته شده است که در حال تهیه نسخه جدیدی از وب سایت دولت فدرال برای انتشار مقررات و نظرات در مورد راه های محافظت بهتر در برابر اظهارات دروغ است.

سیستم های دولتی قبلاً موضوع مبارزات خودکار برای تأثیرگذاری بوده اند. در سال 2017 ، محققان دریافتند که بیش از یک میلیون نظر ارسال شده به کمیسیون ارتباطات فدرال در مورد برنامه های لغو قوانین بی طرفی خالص به طور خودکار ایجاد شده است ، با عباراتی کپی و در پیام های مختلف جایگذاری شده است.

پروژه ویس تهدید جدی تری را برجسته می کند. در چند سال گذشته پیشرفت چشمگیری در کاربرد هوش مصنوعی در زبان مشاهده شده است. وقتی الگوریتم های قدرتمند یادگیری ماشین از مقدار زیادی داده یادگیری – به صورت کتاب و متن حذف شده از وب – تغذیه می کنند ، می توانند برنامه هایی را ایجاد کنند که قادر به تولید متن جذاب هستند. علاوه بر کاربردهای بیشمار مفید ، این احتمال را ایجاد می کند که هرگونه پیام ، نظر و ارسال اینترنتی می تواند به راحتی و به میزان قابل توجهی جعل شود.

سوینی می گوید: “با پیشرفت تکنولوژی ، سایتهای گفتار انسانی دستکاری می شوند بدون اینکه انسان بفهمد این اتفاق افتاده است. “ویس در تابستان 2019 برای یک سازمان مصرف کننده مراقبت های بهداشتی کار می کرد که از روند بازخورد عمومی مورد نیاز برای تغییر Medicaid مطلع شد. ویس که می داند این نظرات عمومی تلاش های قبلی برای تغییر برنامه های Medicaid دولت را متزلزل کرده است ، به دنبال ابزاری است که بتواند به صورت خودکار نظرات ایجاد کند.

وی گفت: “وقتی چیزی بیش از یک دکمه ارسال که مانع از نظر شما برای تبدیل شدن به نظر شما شد ، کمی شوکه شدم.”

تصویر یک مورد

راهنمای Wired هوش مصنوعی

الگوریتم های Supermart همه وظایف را بر عهده نخواهند گرفت ، اما آنها سریعتر از هر زمان دیگری یاد می گیرند ، از تشخیص پزشکی تا تبلیغات همه کارها را انجام می دهند.

ویس GPT-2 را کشف کرد ، برنامه ای که اوایل همان سال توسط OpenAI ، یک شرکت هوش مصنوعی در سانفرانسیسکو آغاز شد و متوجه شد که می تواند نظرات غلطی را برای شبیه سازی افکار عمومی ایجاد کند. ویس گفت: “من همچنین از آسان بودن تصفیه GPT-2 برای تفریحی اظهار نظر شوكه شدم.” “این در تعدادی از جبهه ها نسبتاً نگران کننده است.”

ویس علاوه بر ابزار تولید نظر ، نرم افزاری را برای ارسال خودکار نظرات ایجاد کرده است. وی همچنین آزمایشی را انجام داد که در آن از داوطلبان خواسته شد بین نظرات تولید شده توسط هوش مصنوعی و نظرات توسط انسان تفاوت قائل شوند. داوطلبان کاری بهتر از پیشگویی تصادفی نکردند.

ویس پس از ارسال نظرات ، این امر را به مراکز خدمات مدیکر و مدیکاید اطلاع داد. او چند کاراکتر اضافه کرده بود تا تشخیص هرگونه نظر غلط را آسان کند. با این حال ، او می گوید ، بازخورد هوش مصنوعی برای چندین ماه آنلاین است.

OpenAI ژوئن گذشته نسخه توانمندتری از برنامه تولید متن خود به نام GPT-3 را منتشر کرد. تاکنون فقط در دسترس تعداد کمی از محققان و شرکت های هوش مصنوعی بوده است ، برخی افراد برنامه های مفیدی مانند برنامه هایی را که از نقاط مختلف ایمیل تولید می کنند ، ایجاد می کنند. هنگام انتشار GPT-3 ، OpenAI در یک مقاله تحقیقاتی گفت که هیچ نشانه ای از سوicious استفاده از GPT-2 نمی بیند ، اگرچه از تحقیقات ویس مطلع بود.

[ad_2]

منبع: sadeh-news.ir

ایندکسر