تعریف کوتاه
جمله محوری پرونده
تعریف تفصیلی
الگوریتم در ظاهر مجموعه‌ای از قواعد، محاسبات، وزن‌ها، مدل‌ها و تصمیم‌های فنی است. اما در تمدن محاسباتی، الگوریتم فقط ابزار محاسبه نیست؛ بلکه به سازوکار رتبه‌بندی، انتخاب، حذف، پیشنهاد، پیش‌بینی، امتیازدهی، توزیع توجه، تخصیص فرصت و حتی شکل‌دهی رفتار انسان تبدیل می‌شود.
الگوریتم‌های موتور جست‌وجو تعیین می‌کنند چه چیزی دیده شود. الگوریتم‌های شبکه‌های اجتماعی تعیین می‌کنند چه محتوایی بیشتر پخش شود. الگوریتم‌های اعتباری تعیین می‌کنند چه کسی وام بگیرد. الگوریتم‌های آموزشی تشخیص می‌دهند چه کسی مستعد یا ضعیف است. الگوریتم‌های حکمرانی می‌توانند منابع را توزیع کنند یا افراد را پرخطر تشخیص دهند.
بنابراین الگوریتم‌ها حامل نوعی داوری‌اند؛ حتی اگر این داوری در قالب عدد، مدل، احتمال یا رتبه پنهان شده باشد. تهذیب الگوریتم یعنی این داوری‌های پنهان آشکار، نقد، اصلاح و به سمت عدالت، کرامت و هدایت جهت‌دهی شوند.
مسئله اصلی
مسئله اصلی این پرونده آن است که چگونه می‌توان الگوریتم‌ها را از تبدیل شدن به ابزار نامرئی ظلم، تبعیض، کنترل، غفلت، اعتیاد دیجیتال، تحقیر انسان و سلطه داده‌ای بازداشت؟ و چگونه می‌توان آن‌ها را در خدمت حقیقت، عدالت، تربیت، خدمت و حیات طیبه قرار داد؟
نسبت با پرونده‌های ۱۳ و ۱۴
پرونده ۱۳ گفت داده امانت است. پرونده ۱۴ گفت داده باید عادلانه باشد. پرونده ۱۸ می‌گوید حتی اگر داده امانت‌محور و عادلانه باشد، الگوریتمی که بر آن کار می‌کند نیز باید تهذیب شود. زیرا الگوریتم می‌تواند حتی با داده درست، غایت نادرست، معیار ناعادلانه یا طراحی اعتیادآفرین داشته باشد.
۱۴: داده باید عادلانه باشد.
۱۸: الگوریتم باید تهذیب شود.
نتیجه: هوش مصنوعی اسلامی، هم داده سالم می‌خواهد، هم الگوریتم مهذب.
آلودگی‌های رایج الگوریتم
بازتاب یا تشدید تبعیض‌های طبقاتی، جنسیتی، قومی، منطقه‌ای، زبانی یا فرهنگی در تصمیم‌های ماشینی.
طراحی الگوریتم برای نگه‌داشتن انسان در چرخه تحریک، کلیک، هیجان، مقایسه و مصرف بی‌پایان محتوا.
استفاده از داده رفتاری برای پیش‌بینی ضعف‌ها و جهت‌دهی ناخودآگاه به انتخاب، احساس، رأی، خرید یا باور انسان.
کاهش انسان به امتیاز، پروفایل، ریسک، احتمال، الگوی مصرف، رتبه یا رفتار قابل پیش‌بینی.
بهینه‌سازی الگوریتم برای سود، زمان حضور، فروش یا کنترل، بدون توجه کافی به حقیقت، سلامت و کرامت.
تصمیم‌های مهم الگوریتمی بدون توضیح، امکان اعتراض، نظارت انسانی یا مسئولیت‌پذیری نهادی.
سطوح تهذیب الگوریتم
اصول الگوریتم مهذب
الگوریتم نباید در خدمت جعل، تحریف، شایعه، دستکاری واقعیت یا تقویت باطل قرار گیرد.
تصمیم و رتبه‌بندی الگوریتمی باید از نظر تبعیض، حذف محرومان و بازتولید ظلم ممیزی شود.
انسان نباید صرفاً به داده، رفتار قابل پیش‌بینی، مشتری، رأی‌دهنده، ریسک یا امتیاز تبدیل شود.
برای تصمیم‌های الگوریتمی مهم باید مسئول انسانی، امکان توضیح، اعتراض و اصلاح وجود داشته باشد.
سامانه نباید آگاهانه برای اسارت توجه، تحریک دائمی، مقایسه ناسالم و مصرف بی‌پایان طراحی شود.
الگوریتم باید امکان جهت‌دهی به سمت علم نافع، اخلاق، تربیت، سلامت، خدمت و حیات طیبه را داشته باشد.
نمونه‌های کاربردی تهذیب الگوریتم
حکمرانی تهذیب الگوریتم
تهذیب الگوریتم فقط توصیه اخلاقی به برنامه‌نویس نیست؛ باید به سازوکار حکمرانی تبدیل شود. سامانه‌هایی که بر زندگی مردم اثر جدی دارند، باید پیش از اجرا و در طول اجرا ممیزی شوند. معیارهای عدالت، امنیت، توضیح‌پذیری، حریم خصوصی، آثار تربیتی، امکان اعتراض و مسئولیت‌پذیری باید در طراحی آن‌ها لحاظ شود.
در زیست‌بوم هوش مصنوعی اسلامی، الگوریتم‌های حساس در آموزش، سلامت، رسانه، اقتصاد، حکمرانی و امنیت نباید صرفاً با معیار دقت فنی سنجیده شوند؛ بلکه باید از نظر عدالت، کرامت، حقیقت، امانت، آثار اجتماعی و نسبت با هدایت نیز ارزیابی شوند.
تهذیب الگوریتم در عصر هوش مصنوعی مولد
با ظهور هوش مصنوعی مولد، مسئله تهذیب الگوریتم عمیق‌تر شده است. مدل‌های زبانی، تصویری و چندوجهی فقط داده را تحلیل نمی‌کنند؛ بلکه متن، تصویر، صدا، پیشنهاد، پاسخ، روایت و معنا تولید می‌کنند. بنابراین می‌توانند در شکل‌دهی به فهم انسان، باور عمومی، تربیت، فرهنگ، آموزش و تصمیم‌گیری اجتماعی اثر جدی بگذارند.
تهذیب الگوریتم در این مرحله یعنی ارزیابی منابع آموزشی مدل، جهت‌گیری پاسخ‌ها، امکان تولید خطا یا تحریف، رعایت حریم و کرامت، پرهیز از ترویج فساد، خشونت، ناامیدی، تحقیر، تبعیض و وابستگی شناختی؛ و در مقابل، تقویت علم نافع، حقیقت، ادب، مسئولیت، خانواده، عدالت و رشد عقلانی.
فرمول راهبردی پرونده
هدف ناپاک، الگوریتم را خطرناک می‌کند.
خروجی بی‌نظارت، الگوریتم را بی‌مسئولیت می‌کند.
و الگوریتم بی‌تهذیب، ظلم را دقیق، سریع و نامرئی می‌سازد.
متن سخنرانی ۵ دقیقه‌ای
الگوریتم هم نیاز به تهذیب دارد
در جهان امروز، الگوریتم‌ها فقط کدهای فنی نیستند؛ آن‌ها تصمیم می‌گیرند چه چیزی دیده شود، چه کسی رتبه بگیرد، چه محتوایی پخش شود، چه فردی پرخطر شناخته شود، چه دانش‌آموزی ضعیف تلقی شود و چه خبری مهم شود. بنابراین الگوریتم‌ها حامل داوری‌اند. اگر این داوری‌ها بی‌عدالت، بی‌شفافیت و بی‌غایت باشند، می‌توانند ظلم را پنهان و سریع کنند. تهذیب الگوریتم یعنی الگوریتم را از تبعیض، اعتیادآفرینی، دستکاری روانی، تقلیل انسان و غایت صرفاً سودمحور پاک کنیم و آن را در خدمت حقیقت، عدالت، کرامت، تربیت، خدمت عمومی و هدایت قرار دهیم. همان‌طور که داده باید امانت و عادلانه باشد، الگوریتم نیز باید مهذب باشد.
طرح سخنرانی ۲۰ دقیقه‌ای
پرسش‌های دفاعی و پژوهشی
جمع‌بندی راهبردی
تهذیب الگوریتم، حلقه سوم اخلاق داده و هوش مصنوعی در دانشنامه است. داده باید امانت باشد، داده باید عادلانه باشد و الگوریتمی که با داده کار می‌کند باید تهذیب شود. بدون تهذیب الگوریتم، حتی سامانه‌های دقیق و پیشرفته می‌توانند به ابزار ظلم پنهان، تبعیض، کنترل، اعتیاد، تحریف و تقلیل انسان تبدیل شوند.
تهذیب الگوریتم یعنی پرسش از غایت، معیار، داده ورودی، طراحی، خروجی، چرخه بازخورد و حکمرانی الگوریتم. این مفهوم می‌گوید که الگوریتم نباید فقط سریع و دقیق باشد؛ باید عادل، پاسخگو، کرامت‌مدار، حقیقت‌محور و هدایت‌پذیر نیز باشد.
راهبرد نهایی این پرونده روشن است: هوش مصنوعی اسلامی بدون الگوریتم مهذب ممکن نیست.