هوش مصنوعی سازندگان خود را فریب داد!
پژوهشگران در بررسی جدیدی متوجه شدند یکی از سیستمهای مبتنی بر هوش مصنوعی که کار تبدیل تصاویر را به عهده دارد، برخی از اطلاعات را پنهان میکند.[
به گزارش شبکه اطلاع رسانی راه دانا؛ به نقل از تککرانچ، پژوهش جدید "دانشگاه استنفورد"(Stanford University) و گوگل، هم ترسناک و هم جالب است. براساس این گزارش، یک عامل یادگیری ماشینی که تصاویر هوایی را به نقشههای خیابانی تبدیل میکند، میتواند به صورت نامحسوس به پنهان کردن اطلاعاتی که بعدا به آنها نیاز دارد بپردازد.
, شبکه اطلاع رسانی راه دانا,هدف پژوهشگران از ابداع این سیستم، بهبود فرآیند تبدیل تصاویر ماهوارهای به نقشههای مشهور گوگل بود. آنها برای این کار، از یک شبکه عصبی موسوم به "سایکلگن"(CycleGAN) استفاده کردند که میتواند کار تبدیل دو نوع تصویر را با دقت و کارآیی لازم انجام دهد.
,عملکرد سیستم، در ابتدا بسیار خوب بود اما بعدها گروه پژوهشی متوجه شدند که سیستم، تصاویر هوایی را از روی نقشههای خیابانی بازسازی میکند و جزئیات بسیاری نشان میدهد که جدید به نظر نمیرسند. برای مثال، نورگیرهای سقف که در مرحله ایجاد نقشه خیابان حذف شده بودند، هنگام بازگرداندن فرآیند، دوباره ظاهر شدند.
,اگرچه برقراری تعادل میان کارهای داخلی یک شبکه عصبی، دشوار است اما این گروه پژوهشی به راحتی توانستند دادههای تولیدی سیستم را بررسی کنند و با کمی آزمایش متوجه شدند که سایکلگن میتواند این کار را سریعتر انجام دهد.
]
ارسال دیدگاه