هوش مصنوعی سازندگان خودرا فریب داد!
نیو وبلاگ: پژوهشگران در بررسی جدیدی متوجه شدند یكی از سیستم های مبتنی بر هوش مصنوعی كه كار تبدیل تصاویر را به عهده دارد، بعضی از اطلاعات را پنهان می كند.
به گزارش نیو وبلاگ به نقل از ایسنا و به نقل از تك كرانچ، پژوهش جدید "دانشگاه استنفورد"(Stanford University) و گوگل، هم ترسناك و هم جالب است. بر طبق این گزارش، یك عامل یادگیری ماشینی كه تصاویر هوایی را به نقشه های خیابانی تبدیل می كند، می تواند به صورت نامحسوس به پنهان كردن اطلاعاتی كه بعدا به آنها نیاز دارد بپردازد.
هدف پژوهشگران از ابداع این سیستم، بهبود فرآیند تبدیل تصاویر ماهواره ای به نقشه های مشهور گوگل بود. آنها برای این كار، از یك شبكه عصبی موسوم به "سایكل گن"(CycleGAN) استفاده كردند كه می تواند كار تبدیل دو نوع تصویر را با دقت و كارآیی لازم انجام دهد.
عملكرد سیستم، در ابتدا بسیار عالی بود اما بعدها گروه پژوهشی متوجه شدند كه سیستم، تصاویر هوایی را از روی نقشه های خیابانی بازسازی می كند و جزئیات بسیاری نشان داده است كه جدید به نظر نمی رسند. برای مثال، نورگیرهای سقف كه در مرحله احداث نقشه خیابان حذف شده بودند، هنگام بازگرداندن فرآیند، دوباره ظاهر شدند.
بااینكه برقراری تعادل میان كارهای داخلی یك شبكه عصبی، دشوار است اما این گروه پژوهشی به راحتی توانستند داده های تولیدی سیستم را بررسی نمایند و با كمی آزمایش متوجه شدند كه سایكل گن می تواند این كار را سریع تر انجام دهد.
هدف آنها، نمایش سیستمی بود كه بتواند از عهده تحلیل خاصیت های هر نقشه ای برآید و آنها را با خاصیت های درست نقشه دیگر انطباق دهد اما آنچه سیستم انجام داد، تنها نمایش یك نقشه هوایی نزدیك به نسخه اصلی آن بود.
در واقع، سیستم یاد نگرفت چگونه یك نقشه را از روی نقشه دیگر بسازد، بلكه تنها یاد گرفت خاصیت های یكی از نقشه ها را به شكل زیركانه ای روی الگوهای نقشه دیگر كدگذاری كند. جزئیات نقشه هوایی همچون هزاران رنگ كه چشم انسان قادر به تشخیص آنها نیست اما كامپیوتر آنها را تشخیص می دهد، به صورت محرمانه روی داده های بصری واقعی نقشه خیابان ثبت می شوند.
كامپیوتر یاد گرفت هر نقشه هوایی را روی هر نقشه خیابانی كدگذاری كند. سیستم حتی به نقشه واقعی خیابان هم توجه نمی كند بلكه به قول پژوهشگران، همه داده های مورد نیاز برای ساخت تصویر هوایی را روی یك نقشه خیابانی متفاوت قرار می دهد.
خطوط رنگارنگ نقشه c، تجسم تفاوت های كوچكی هستند كه كامپیوتر به صورت سیستماتیك نشان داده است.
روش كدگذاری داده ها در تصاویر، روش جدیدی نیست. این روش موسوم به "پنهان نگاری" یا "استگانوگرافی"(steganography) همیشه برای نمایش تصاویر جزر و مد و یا افزودن ابرداده ها مورد استفاده بوده اما به كار بردن روش استگانوگرافیك توسط این سیستم، برای طفره رفتن از انجام وظیفه است.
شاید عده ای این كار را با گفتن جمله "ماشین ها باهوش تر می شوند" توجیه كنند اما حقیقت، حدودا برعكس است. این ماشین برای انجام دادن وظیفه واقعی خود یعنی تبدیل تصاویر پیچیده به یكدیگر، به اندازه كافی باهوش نیست و تلاش می كند راهی برای فریب انسان هایی پیدا كند كه دقت لازم را ندارند. جلوگیری از این اتفاق، با بررسی های دقیق تر امكان دارد و شكی نیست كه پژوهشگران این كار را انجام می دهند.
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب