خطر! الگوریتم جای وجدان را نگیرد

به گزارش شبکه اطلاع رسانی راه دانا؛ محمدباقر تورنگ در یادداشتی نوشت‌‌ انسان امروز بیش از هر دوره‌ای در معرض انتخاب قرار دارد؛ اما پرسش پارادوکسیکال عصر ما این است: آیا افزایش گزینه‌ها، الزاماً به معنای افزایش آزادی است؟ما هر روز با صدها پیشنهاد مواجه می‌شویم؛ چه بخوانیم، چه ببینیم، چه بخریم، با چه کسی ارتباط برقرار کنیم و حتی چه موضوعی را دنبال کنیم. پشت بخش مهمی از این پیشنهادها، الگوریتم‌هایی قرار دارند که با تحلیل رفتار، علایق و الگوهای مصرف ما، تلاش می‌کنند انتخاب بعدی ما را پیش‌بینی کنند.#الگوریتم می‌داند چه چیزی توجه ما را جلب می‌کند؛ اما آیا می‌داند چه چیزی برای ما خیر است؟این پرسش، مرز میان محاسبه و حکمت است.الگوریتم با داده کار می‌کند؛ وجدان با ارزش. الگوریتم احتمال انتخاب را محاسبه می‌کند؛ وجدان درباره درستی انتخاب داوری می‌کند. الگوریتم می‌تواند بگوید «چه چیزی احتمالاً می‌خواهی»، اما پاسخ به این پرسش که «چه چیزی باید بخواهی»، همچنان مسئله‌ای انسانی و اخلاقی است.در اینجا فناوری وارد قلمرو فلسفه می‌شود.در سنت فلسفی اسلامی، انسان صرفاً موجودی صاحب میل نیست؛ موجودی صاحب عقل، اراده و مسئولیت است. در حکمت اسلامی، تفاوت مهمی میان میل و اختیار وجود دارد. ممکن است چیزی را بخواهیم، اما خواستن آن الزاماً به معنای درست بودن آن نیست. اختیار زمانی معنا پیدا می‌کند که انسان بتواند میان میل و خیر فاصله‌ای آگاهانه ایجاد کند.این همان نقطه‌ای است که مسئله الگوریتمی‌شدن زندگی اهمیت پیدا می‌کند.اگر سامانه‌ای دائماً تشخیص دهد چه چیزی ما را بیشتر سرگرم، خشمگین، هیجان‌زده یا کنجکاو می‌کند و سپس همان الگو را تقویت کند، ممکن است به‌تدریج میان «آنچه من می‌خواهم» و «آنچه به من پیشنهاد می‌شود» فاصله‌ای نامرئی شکل بگیرد.در ظاهر، من انتخاب کرده‌ام؛ اما چه

مقدار از انتخاب من، محصول انتخاب‌های قبلی خودم و چه مقدار حاصل معماری محیطی است که برای من طراحی شده است؟اینجاست که عرفان اسلامی نیز سخنی جدی برای انسان عصر فناوری دارد.در عرفان، مسئله اساسی فقط شناخت جهان بیرون نیست؛ شناخت خویشتن است. انسان باید بداند چه چیزی از «خود حقیقی» او سرچشمه می‌گیرد و چه چیزی محصول عادت، غفلت، تقلید و کشش‌های نفسانی است.اگر انسان نتواند میان خواسته‌های درونی خود تمایز بگذارد، ممکن است آزادی ظاهری او به اسارت پنهان تبدیل شود.امروز الگوریتم می‌تواند برای هر فرد، نسخه‌ای شخصی از جهان بسازد؛ جهانی که در آن بیشتر همان چیزهایی را می‌بیند که قبلاً پسندیده است. نتیجه می‌تواند شکل‌گیری نوعی «حباب ادراکی» باشد؛ فضایی که در آن انسان بیش از آنکه با واقعیت متنوع جهان مواجه شود، با بازتاب ترجیحات خودش روبه‌رو می‌شود.در چنین شرایطی، خطر فقط کاهش تنوع اطلاعات نیست؛ کاهش ظرفیت انسان برای مواجهه با دیگری و تحمل تفاوت نیز اهمیت پیدا می‌کند.از منظر ملاصدرا، انسان موجودی در مسیر شدن است؛ حقیقت انسان در حرکت و تکامل او معنا می‌یابد. اگر این نگاه را به عصر دیجیتال بیاوریم، پرسش مهم این خواهد بود که فناوری ما را به چه نوع انسانی «شدن» نزدیک می‌کند؟آیا ما را عمیق‌تر، صبورتر، مسئول‌تر و حقیقت‌جوتر می‌کند یا صرفاً سریع‌تر، واکنشی‌تر و وابسته‌تر به محرک‌های بیرونی؟در نگاه ابن‌عربی نیز شناخت انسان از خویش، با شناخت نسبت او با حقیقت پیوند دارد. انسان اگر تنها با تصویر مجازی و بازتاب‌های بیرونی خود زندگی کند، ممکن است میان «خودِ واقعی» و «خودِ نمایش‌داده‌شده» فاصله‌ای ایجاد کند.شبکه‌های اجتماعی این فاصله را گاه بیشتر می‌کنند؛ زیرا انسان نه فقط زندگی می‌کند، بلکه #زندگی

خود را برای دیده‌شدن نیز تنظیم می‌کند.در چنین جهانی، وجدان اهمیت بیشتری پیدا می‌کند، نه کمتر.#وجدان همان پرسشی است که الگوریتم نمی‌تواند به جای ما پاسخ دهد:آیا هر چیزی که می‌توانم انجام دهم، باید انجام دهم؟آیا هر خبری که می‌توانم منتشر کنم، باید منتشر شود؟آیا هر تصویری که توجه می‌گیرد، ارزش دیده‌شدن دارد؟آیا هر سخنی که مخاطب بیشتری پیدا می‌کند، حقیقت بیشتری دارد؟و آیا هر چیزی که من دوست دارم، الزاماً به خیر من است؟پاسخ این پرسش‌ها در داده‌ها به‌تنهایی وجود ندارد؛ زیرا «خیر» یک محاسبه صرف نیست، بلکه مسئله‌ای اخلاقی، انسانی و در نهایت معنوی است.بنابراین چالش اصلی آینده، حذف فناوری یا بازگشت به جهان پیشادیجیتال نیست. مسئله، حفظ انسان در مرکز فناوری است.ما به الگوریتم‌های هوشمند نیاز داریم؛ اما هم‌زمان به انسان‌هایی نیاز داریم که هوشمندانه در برابر الگوریتم‌ها زندگی کنند. سواد دیجیتال کافی نیست؛ انسان امروز به نوعی سواد اخلاقی و الگوریتمی نیاز دارد: بداند چه چیزی به او پیشنهاد می‌شود، چرا پیشنهاد می‌شود و چگونه ممکن است این پیشنهاد بر تصمیم او اثر بگذارد.فناوری باید دامنه آگاهی انسان را گسترش دهد، نه اینکه دامنه اختیار او را پنهانی محدود کند.الگوریتم می‌تواند بهترین گزینه را از میان هزاران گزینه پیدا کند؛ اما هنوز نمی‌تواند به جای انسان تعیین کند که «بهترین» از چه منظومه‌ای از ارزش‌ها سخن می‌گوید.در نهایت، مسئله عصر #هوش_مصنوعی فقط این نیست که ماشین چقدر هوشمند خواهد شد؛ مسئله مهم‌تر این است که انسان در کنار ماشین، چقدر انسان باقی خواهد ماند.اگر الگوریتم جای وجدان بنشیند، شاید تصمیم‌گیری سریع‌تر شود؛ اما مسئولیت اخلاقی انسان نباید سریع‌تر از میان برود.آینده انسانی،

آینده‌ای نیست که در آن ماشین به جای ما انتخاب کند؛ آینده‌ای است که در آن فناوری به ما کمک کند آگاهانه‌تر ببینیم، عمیق‌تر بیندیشیم و مسئولانه‌تر انتخاب کنیم.زیرا آزادی حقیقی فقط داشتن امکان انتخاب نیست؛توان تشخیص انتخاب درست است.