تعریف کوتاه
جمله محوری پرونده
تعریف تفصیلی
در جهان امروز، الگوریتم‌ها فقط ابزارهای فنی نیستند؛ بلکه به بازیگران پنهان تصمیم‌سازی اجتماعی تبدیل شده‌اند. آن‌ها در رتبه‌بندی محتوا، تخصیص وام، تشخیص بیماری، پیشنهاد آموزشی، مدیریت ترافیک، اولویت‌بندی خدمات، ارزیابی رفتار، تبلیغات، امنیت، رسانه، حکمرانی و حتی شکل‌دهی افکار عمومی نقش دارند.
حکمرانی الگوریتمی یعنی جامعه، دولت، نهادهای علمی، دینی، حقوقی و مدنی باید بدانند الگوریتم‌های حساس چگونه طراحی می‌شوند، با چه داده‌ای آموزش می‌بینند، چه هدفی را بهینه می‌کنند، چه پیامدی بر انسان و جامعه دارند و در برابر خطا، تبعیض یا آسیب چگونه پاسخگو هستند.
این مفهوم، ادامه طبیعی امانت داده، عدالت داده‌ای و تهذیب الگوریتم است. اگر داده امانت است، اگر داده باید عادلانه باشد و اگر الگوریتم باید مهذب شود، پس باید نهادی و قانونی هم وجود داشته باشد که این اصول را تضمین کند.
مسئله اصلی
مسئله اصلی این پرونده آن است که چگونه می‌توان قدرت الگوریتم‌ها را در جامعه کنترل، هدایت و پاسخگو کرد؟ اگر الگوریتمی بر رزق، آبرو، آموزش، سلامت، امنیت، آزادی، رسانه، فرصت شغلی یا حقوق اجتماعی مردم اثر می‌گذارد، چه کسی مسئول آن است؟ چه کسی آن را ممیزی می‌کند؟ مردم چگونه می‌توانند اعتراض کنند؟ و چه نهادی حق توقف یا اصلاح آن را دارد؟
نسبت با پرونده‌های ۱۳، ۱۴ و ۱۸
پرونده ۱۳ اصل امانت داده را بنا کرد. پرونده ۱۴ عدالت داده‌ای را افزود. پرونده ۱۸ تهذیب الگوریتم را مطرح کرد. پرونده ۱۹ این سه اصل را از سطح اخلاق نظری به سطح حکمرانی، قانون، نهاد، ممیزی، مسئولیت و اجرا منتقل می‌کند.
۱۴: داده باید عادلانه باشد.
۱۸: الگوریتم باید تهذیب شود.
۱۹: این اصول باید با حکمرانی الگوریتمی تضمین شوند.
چرا حکمرانی الگوریتمی ضروری است؟
الگوریتم‌ها می‌توانند بدون دیده‌شدن، توجه، فرصت، اعتبار، خدمت، محتوا و رفتار انسان را جهت دهند.
بسیاری از مدل‌های پیچیده به‌آسانی قابل فهم نیستند و انسان نمی‌داند چرا یک تصمیم علیه او گرفته شده است.
داده تاریخی آلوده می‌تواند تبعیض‌های گذشته را در قالب مدل‌های ظاهراً علمی و دقیق بازتولید کند.
ممکن است نهادها خطا را به گردن سیستم بیندازند و مسئولیت انسانی، حقوقی و اخلاقی خود را پنهان کنند.
وقتی الگوریتم بر سلامت، آموزش، وام، بیمه، کار، خدمات یا آزادی اثر دارد، باید تحت نظارت باشد.
الگوریتم‌های پیشنهادگر می‌توانند شایعه، ناامیدی، اعتیاد، قطبی‌سازی و عملیات شناختی را تقویت کنند.
اصول حکمرانی الگوریتمی
سطوح حکمرانی الگوریتمی
ارزیابی داده، مدل، دقت، سوگیری، امنیت، توضیح‌پذیری، پایداری و امکان کنترل خطا.
سنجش نسبت سامانه با کرامت، عدالت، حقیقت، اختیار انسان، خانواده، تربیت و عدم آسیب.
تعیین مسئولیت، حق اعتراض، جبران خسارت، حریم خصوصی، رضایت و حدود استفاده مشروع.
ایجاد نهادهای ممیزی، مجوزدهی، نظارت، رسیدگی به شکایت، استانداردگذاری و گزارش‌دهی.
افزایش سواد الگوریتمی مردم، خانواده‌ها، مدیران، معلمان، مبلغین و نهادهای فرهنگی.
قرار دادن حکمرانی الگوریتم‌ها در خدمت استقلال، عدالت، حیات طیبه و هدایت تاریخی امت.
حوزه‌های حساس نیازمند حکمرانی شدیدتر
مدل پیشنهادی حکمرانی الگوریتمی اسلامی
نگاه اسلامی به حکمرانی الگوریتمی
در نگاه اسلامی، قدرت بدون مسئولیت پذیرفته نیست. هر سازوکاری که بر جان، مال، آبرو، فرصت، حق، امنیت، تربیت و آزادی انسان اثر می‌گذارد، باید ذیل عدالت، امانت، کرامت و پاسخگویی قرار گیرد. الگوریتم نیز از این قاعده بیرون نیست.
حکمرانی الگوریتمی اسلامی یعنی الگوریتم نه بت جدید تصمیم‌گیری است و نه ابزار رهاشده بازار و قدرت؛ بلکه سازوکاری است که باید در برابر حق، عدالت، انسان، جامعه و خداوند پاسخگو باشد. از این جهت، حکمرانی الگوریتمی ادامه حکمرانی عادلانه در عصر محاسبات است.
فرمول راهبردی پرونده
الگوریتم بدون پاسخگویی، مسئولیت‌گریزی است.
الگوریتم بدون حق اعتراض، ظلم بی‌صداست.
الگوریتم بدون ممیزی، خطر انباشته است.
و الگوریتم بدون حکمرانی، فرمانروای نامرئی جامعه می‌شود.
متن سخنرانی ۵ دقیقه‌ای
چه کسی الگوریتم‌ها را حکمرانی می‌کند؟
امروز الگوریتم‌ها در بسیاری از تصمیم‌های زندگی ما حضور دارند؛ از اینکه چه خبری می‌بینیم تا اینکه چه خدمتی دریافت می‌کنیم، چه رتبه‌ای می‌گیریم، چه پیشنهادی به ما داده می‌شود و حتی چه رفتاری از ما پیش‌بینی می‌شود. اما پرسش اصلی این است: چه کسی بر این الگوریتم‌ها نظارت می‌کند؟ اگر یک الگوریتم خطا کند، تبعیض ایجاد کند، انسان را محروم کند یا افکار عمومی را دستکاری کند، چه کسی پاسخگوست؟ حکمرانی الگوریتمی یعنی الگوریتم‌های اثرگذار بر زندگی مردم نباید بی‌ضابطه و بی‌پاسخگو باشند. باید شفافیت، حق توضیح، حق اعتراض، ممیزی، نظارت انسانی، مسئولیت نهادی و امکان توقف و اصلاح وجود داشته باشد. در نگاه اسلامی، هر قدرتی باید ذیل عدالت و امانت قرار گیرد؛ الگوریتم هم از این قاعده مستثنا نیست.
طرح سخنرانی ۲۰ دقیقه‌ای
پرسش‌های دفاعی و پژوهشی
جمع‌بندی راهبردی
حکمرانی الگوریتمی، حلقه نهادی و اجرایی اخلاق داده و هوش مصنوعی است. این مفهوم می‌گوید که کافی نیست داده را امانت بدانیم، داده را عادلانه بخواهیم و الگوریتم را مهذب بنامیم؛ بلکه باید سازوکارهایی برای تضمین این اصول ایجاد شود.
الگوریتم‌های اثرگذار بر زندگی مردم باید دارای شناسنامه، مسئول پاسخگو، سطح ریسک، ممیزی، حق توضیح، حق اعتراض، نظارت انسانی، ارزیابی اثر اجتماعی و امکان توقف یا اصلاح باشند. این سازوکارها از تبدیل الگوریتم به قدرت نامرئی و بی‌پاسخگو جلوگیری می‌کند.
راهبرد نهایی این پرونده روشن است: در تمدن اسلامی، الگوریتم باید حکمرانی شود تا خود به حاکم نامرئی تبدیل نشود.