Nix الگوریتم های ساخته شده روی Ill-Gotten Facial Data راه اندازی خواهد شد


در پایان سال گذشته ، استارت آپ تشخیص چهره Everalbum مستقر در سانفرانسیسکو با تأمین قرارداد “کنترل دسترسی با کنترل هوش مصنوعی” قراردادی 2 میلیون دلاری با نیروی هوایی برنده شد. روز دوشنبه ، بخش دیگری از دولت ایالات متحده این شرکت را شکست داد.

کمیسیون تجارت فدرال گفت: Everalbum موافقت کرد که هزینه ها را تسویه کند ، فن آوری شناسایی چهره را بر روی تصاویر بارگذاری شده در یک برنامه عکس بدون اجازه کاربران اعمال کرد و پس از گفتن اینکه کاربران به آنها می گویند ، آنها را حفظ کرد حذف شده. این شرکت نوپا از میلیون ها عکس برای توسعه فناوری ارائه شده به سازمان های دولتی و سایر مشتریان با نام تجاری Paravision استفاده می کند.

Paravision ، همانطور که شرکت قبلاً شناخته شده است ، با حذف نامناسب داده های جمع آوری شده موافقت کرد. اما او همچنین با یک راه حل جدید موافقت کرد: پاک کردن تمام الگوریتم های ساخته شده با این عکس ها.

این توافقنامه بر شهرت پاراویژن سایه افکنده است ، اما مدیر ارشد محصولات جوی پریتیکین می گوید که این شرکت هنوز هم می تواند قرارداد خود را با نیروی هوایی و تعهدات خود در قبال سایر مشتریان انجام دهد. این شرکت تازه وارد در ماه آگوست ، در همان ماه که از یک شکایت احتمالی از FTC مطلع شد ، برنامه کاربر را تعطیل کرد و فناوری تشخیص چهره را که بدون داده های برنامه در ماه سپتامبر توسعه یافته بود ، راه اندازی کرد. پریتیکین می گوید این تغییرات قبل از ضربه FTC در حال حرکت بوده است ، بخشی از این امر به دلیل “تکامل احساسات عمومی” در مورد تشخیص چهره است.

نماینده FTC ، روهیت چوپرا ، یک دموکرات ، روز دوشنبه با صدور بیانیه ای عمق کمیسیون را با Paravision ستود و گفت که مجبور شده است “ثمره تقلب خود را از دست بدهد”.

وی با توافقنامه 2019 موافقت کرد که گوگل 170 میلیون دلار برای جمع آوری داده های غیرقانونی از کودکان بدون رضایت والدین پرداخت می کند. این شرکت موظف به حذف موارد بدست آمده از این داده ها نبود. وی نوشت: “کمیسیونرها قبلاً رای داده اند که به نقضان قانون داده اجازه می دهد الگوریتم ها و فن آوری هایی را که ارزش بسیاری از داده های غیرقانونی بدست می آورند ، حفظ کنند.” “این یک تنظیم مهم دوره است.”

تصویر یک مورد

راهنمای Wired هوش مصنوعی

الگوریتم های Supermart همه وظایف را بر عهده نخواهند گرفت ، اما آنها سریعتر از هر زمان دیگری یاد می گیرند ، همه کارها را از تشخیص پزشکی گرفته تا تبلیغات انجام می دهند.

رایان کالو ، استاد حقوق در دانشگاه واشنگتن ، می گوید که الزامات Paravision برای حذف الگوریتم های تشخیص چهره آموزش دیده در مورد ادعاهای تصاویر بدست آمده نادرست نشان می دهد که FTC تشخیص می دهد که چگونه افزایش یادگیری ماشین آرایه های داده را درگیر کرده و به طور بالقوه مضر است. محصولات نرم افزاری

روزگاری ، شرکت های فناوری فقط با پرداخت پول به مردم برای لمس کلیدهای مناسب به ترتیب صحیح ، نرم افزاری را ایجاد کردند. اما برای بسیاری از محصولات مانند مدل های تشخیص چهره یا نرم افزار فیلتر فیلم ، یکی از مهمترین مواد در حال حاضر مجموعه ای دقیق از داده های نمونه است که باید در الگوریتم های یادگیری ماشین گنجانده شود. کالو گفت: “این ایده پاک کردن مدل است و داده ها تأیید می کنند که همه چیز با هم ارتباط تنگاتنگی دارند.” سیستم های تشخیص چهره سزاوار کنترل ویژه ای هستند ، زیرا ایجاد آنها به تصاویر کاملاً شخصی احتیاج دارد. “آنها مانند Soylent Green – ساخته شده توسط انسانها هستند.”

دیوید ولادک ، مدیر سابق دفتر حمایت از حقوق مصرف کنندگان FTC و استاد حقوق در جورج تاون ، گفت که توافق روز دوشنبه مطابق با توافق های قبلی بود که نیاز به حذف داده ها داشت. در سال 2013 ، شرکت نرم افزاری DesignerWare و هفت خرده فروش اجاره ای توافق کردند که داده های ردیابی جغرافیایی جمع آوری شده بدون رضایت جاسوس افزار نصب شده روی لپ تاپ ها را حذف کنند.

تقاضای گسترده تری برای حذف روز دوشنبه با Paravision به اتفاق آرا ، 5-0 ، توسط FTC تأیید شد ، كه هنوز هم توسط اکثریت جمهوریخواه كنترل می شود. پس از روی کار آمدن رئیس جمهور منتخب جو بایدن در این ماه ، این کمیسیون می تواند به اکثریت دموکرات تبدیل شود و حتی به طور بالقوه بی تاب تر از شرکت های فنی پلیس باشد. این می تواند حمایت و منابع جدیدی را از کنگره تحت کنترل دموکرات ها دریافت کند.

کالو امیدوار است آژانس منابع فنی و تخصص بیشتری کسب کند تا به آن کمک کند تا صنعت فناوری را به طور مساوی کنترل کند. برنامه ای برای دانش فنی بیشتر می تواند به ارائه روشهایی برای بررسی اینکه آیا یک شرکت نه تنها داده های بدست آمده ضعیف بلکه مزایا یا فناوری های بدست آمده از آنها را نیز پاک کرده است یا خیر. این می تواند برای سیستمهایی که شامل مدلهای پیچیده یادگیری ماشین ساخته شده از چندین منبع داده هستند دشوار باشد.


منبع: sadeh-news.ir

Leave a reply

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>