به گزارش خبرگزاری تسنیم، در نشست علمی هوش مصنوعی؛ فرصت توسعه یا چالش حکمرانی که با حضور حامد طاهری پژوهشگر حوزه فناوری و ارتباطات و به میزبانی پژوهشکده علوم ارتباطات برگزار شد، نسبت هوش مصنوعی با مسائل مشخص کشور، کیفیت داده، تصمیم‌گیری الگوریتمی، مسئولیت انسانی و نحوه ورود این فناوری به ساختار حکمرانی مورد بررسی قرار گرفت.

طاهری در ابتدای این نشست اظهار داشت: در بحث هوش مصنوعی معمولاً خیلی زود سراغ مدل‌های زبانی، قدرت پردازشی، زیرساخت، داده و رقابت جهانی می‌رویم، اما پیش از این مباحث باید یک سؤال مشخص داشته باشیم؛ این­که هوش مصنوعی قرار است چه مسئله‌ای را در ایران حل کند؟

وی افزود: داشتن یک فناوری پیشرفته به معنای حل آن موضوع یا مسئله نیست. ممکن است کشوری به فناوری هوش مصنوعی دسترسی داشته باشد، اما در مدیریت انرژی، آب، نظام اداری، بازار کار یا سیاست‌گذاری اقتصادی تغییر محسوسی ایجاد نشود، که در این صورت فناوری توسعه پیدا کرده، اما ظرفیت حل مسئله افزایش نیافته است.

این پژوهشگر حوزه فناوری و ارتباطات خاطرنشان کرد: ایران در بسیاری از حوزه‌های مهم با کمبود اطلاعات مواجه نیست، مثلا درباره مصرف انرژی، منابع آب، وضعیت بازار کار، عملکرد دستگاه‌های اداری و مسائل اقتصادی داده‌های زیادی تولید می‌شود، اما مسئله مهم‌تر این است که این داده‌ها چگونه کنار هم قرار می‌گیرند، چه کیفیتی دارند و چطور به تصمیم تبدیل می‌شوند.؟

طاهری افزود: هوش مصنوعی می‌تواند در همین مرحله کاربرد مشخص داشته باشد؛ برای مثال در حوزه انرژی می‌توان از داده‌های مصرف برای پیش‌بینی تقاضا و شناسایی الگوهای مصرف استفاده کرد، و در حوزه آب نیز امکان تحلیل داده‌های مربوط به مصرف و منابع وجود دارد، یا در بازار کار می‌توان روندهای اشتغال و تغییرات تقاضای نیروی انسانی را بررسی کرد. از همین رو، ارزش فناوری زمانی مشخص می‌شود که چنین خروجی‌هایی در تصمیم‌گیری مورد استفاده قرار گیرند. البته این­که یک سامانه بتواند اطلاعات بیشتری تحلیل کند، به این معنا نیست که تصمیم نهایی را نیز باید به همان سامانه سپرد، چرا که در حکمرانی، میان پیش‌بینی، پیشنهاد و تصمیم تفاوت وجود دارد و این تفاوت باید در طراحی سامانه‌ها حفظ شود.

وی در ادامه به مسئله مسئولیت تصمیم‌های الگوریتمی پرداخت و خاطرنشان کرد: فرض کنیم یک دستگاه دولتی از سامانه هوش مصنوعی برای ارزیابی پرونده‌ها استفاده کند و بر اساس خروجی سامانه، تصمیمی گرفته شود که برای یک شهروند زیان ایجاد کند، که در این وضعیت باید از قبل مشخص شده باشد که مسئولیت تصمیم با چه کسی است. از همین منظر نمی‌توان مسئولیت را به خود الگوریتم نسبت داد، چرا که الگوریتم مسئول حقوقی و مسئول اخلاقی نیست. بنابراین اگر قرار باشد هوش مصنوعی وارد فرآیندهای اداری و عمومی شود، باید رابطه میان خروجی سامانه و مسئول انسانی تصمیم روشن باشد.

این پژوهشگر اظهار داشت: از همین رو، مسئله فقط زمانی نیست که سامانه اشتباه کند، حتی اگر یک سامانه در بسیاری از موارد عملکرد دقیقی داشته باشد، باز هم باید مشخص باشد بر اساس چه داده‌ای و با چه معیاری به نتیجه رسیده است. در نتیجه، برای تصمیم‌های عمومی، دقت فنی به تنهایی کافی نیست، بلکه امکان بررسی تصمیم و پاسخ‌گویی درباره آن نیز اهمیت دارد.

طاهری سپس به موضوع داده پرداخت و اظهار داشت: در ایران گاهی بحث هوش مصنوعی با این فرض پیش می‌رود که مسئله اصلی نداشتن مدل‌های قدرتمند است، در حالی که پیش از مدل باید درباره داده صحبت کرد. داده‌ای که ناقص، ناسازگار یا دارای سوگیری باشد، مبنای مناسبی برای تصمیم‌گیری ایجاد نمی‌کند. البته مشکل داده در کشور بیشتر از جنس پراکندگی و کیفیت است، و دستگاه‌های مختلف اطلاعات تولید می‌کنند، اما قالب‌ها و استانداردها همیشه یکسان نیست و اتصال میان سامانه‌ها نیز در همه موارد وجود ندارد. در نتیجه، ممکن است داده در یک دستگاه وجود داشته باشد، اما دستگاه دیگری که برای تصمیم‌گیری به آن نیاز دارد، نتواند به شکل مناسب از آن استفاده کند. بنابراین قبل از این­که بپرسیم چه مدل هوش مصنوعی باید بسازیم، باید بدانیم چه داده‌ای در اختیار داریم، داده‌ها تا چه اندازه قابل اعتماد هستند، چه خلأهایی وجود دارد و مسئولیت کیفیت هر مجموعه داده با کدام نهاد است.

طاهری در ادامه این نشست اظهار داشت: اگر داده‌های پایه یک تصمیم درست نباشند، پیچیده‌تر کردن فرآیند تحلیل الزاماً نتیجه بهتری ایجاد نمی‌کند. هوش مصنوعی می‌تواند تحلیل را سریع‌تر و گسترده‌تر کند، اما قرار نیست داده نادرست را به داده درست تبدیل کند. از همین جا یک مسئله مهم دیگر مطرح می‌شود و آن اصلاح فرآیندها پیش از هوشمندسازی است. اگر یک فرآیند اداری چند مرحله غیرضروری داشته باشد، دیجیتالی کردن همان فرآیند لزوماً مشکل را حل نمی‌کند و ممکن است فقط همان مراحل را از شکل کاغذی به شکل دیجیتال منتقل کنیم.

وی در ادامه افزود: در مورد هوش مصنوعی نیز همین مسئله وجود دارد، به خاطر این­که اگر ساختار تصمیم‌گیری یا فرآیند اجرایی ایراد داشته باشد، افزودن یک سامانه هوشمند به آن ساختار الزاماً به اصلاح منجر نمی‌شود، و به همین دلیل، قبل از هوشمندسازی برخی فرآیندها باید خود فرآیندها مورد بازبینی قرار گیرند. از این منظر، مسئله ایران صرفاً این نیست که چه فناوری‌ای می‌تواند وارد کشور شود، مسئله این است که کدام مسئله ارزش حل کردن دارد و هوش مصنوعی در کدام نقطه واقعاً می‌تواند تفاوت ایجاد کند. برای نمونه، اگر ناترازی انرژی یکی از مسائل اصلی کشور است، باید پروژه‌های هوش مصنوعی در همین حوزه تعریف شوند، پروژه‌هایی که بتوانند مصرف را پیش‌بینی کنند، الگوهای اتلاف را نشان دهند یا به مدیریت شبکه کمک کنند. همچنین در حوزه آب نیز می‌توان به سراغ کاربردهایی رفت که مستقیماً با مصرف، پیش‌بینی و مدیریت منابع ارتباط دارند.

طاهری اظهار داشت: این رویکرد با این نگاه که ابتدا یک فناوری ایجاد کنیم و بعد برای آن کاربرد پیدا کنیم، تفاوت دارد. یعنی در رویکرد مسئله‌محور، ابتدا مسئله تعریف می‌شود، شاخص موفقیت مشخص می‌شود و بعد درباره اینکه هوش مصنوعی چه نقشی می‌تواند داشته باشد تصمیم گرفته می‌شود. در نتیجه چنین رویکردی حتی می‌تواند به ایران کمک کند تا در حوزه‌هایی که مسئله بومی و مشخص دارد، تجربه قابل توجهی به دست آورد.

این استاد دانشگاه در بخش دیگری از سخنان خود به اعتماد عمومی پرداخت و اظهار داشت: وقتی داده شهروندان وارد سامانه‌های هوشمند می‌شود، مسئله فقط کارایی سامانه نیست. شهروند باید بداند چه داده‌ای از وی جمع‌آوری می‌شود، برای چه هدفی مورد استفاده قرار می‌گیرد و چه نهادی مسئول حفاظت از آن است.

وی افزود: در کنار حفاظت از داده، امکان اعتراض به تصمیم نیز اهمیت دارد. اگر یک سامانه درباره یک فرد یا یک پرونده تصمیمی پیشنهاد کند و فرد هیچ راهی برای فهمیدن مبنای تصمیم یا اعتراض به آن نداشته باشد، حتی یک سامانه فنی دقیق نیز می‌تواند با مسئله پذیرش اجتماعی مواجه شود. به همین دلیل، حکمرانی هوش مصنوعی فقط تدوین مقررات برای شرکت‌های فناوری نیست، بلکه باید درباره استفاده دستگاه‌های عمومی از داده، حدود تصمیم‌گیری الگوریتمی، نحوه نظارت بر سامانه‌ها و مسئولیت افراد و نهادهای استفاده‌کننده نیز قواعد مشخص وجود داشته باشد.

طاهری اظهار داشت: در برخی تصمیم‌ها می‌توان از هوش مصنوعی برای تحلیل و پیشنهاد استفاده کرد، اما تصمیم نهایی باید با نظارت انسانی باقی بماند. مرز میان این دو نیز باید متناسب با حساسیت موضوع تعیین شود؛ نمی‌توان برای همه تصمیم‌ها یک قاعده واحد در نظر گرفت. هرچه تصمیم مورد نظر آثار بیشتری بر حقوق و زندگی شهروندان داشته باشد، ضرورت نظارت انسانی و امکان بررسی تصمیم نیز بیشتر می‌شود. این مسئله یکی از موضوعاتی است که باید پیش از گسترش استفاده از سامانه‌های هوشمند در بخش عمومی مورد توجه قرار گیرد.

این پژوهشگر حوزه فناوری و ارتباطات در ادامه بیان کرد: از این رو، بحث هوش مصنوعی ما را به مسئله کیفیت حکمرانی می‌رساند. فناوری می‌تواند امکان تحلیل بهتر و تصمیم سریع‌تر را فراهم کند، اما این­که این ظرفیت چگونه مورد استفاده قرار گیرد، به ساختارهای نهادی، کیفیت داده و قواعد مسئولیت بستگی دارد. مثلا اگر فرآیندهای ناکارآمد بدون بازنگری هوشمند شوند، نتیجه لزوماً مطلوب نخواهد بود و ممکن است همان تصمیم‌های قبلی، با همان منطق فقط با سرعت بیشتری گرفته شوند. بنابراین یکی از نگرانی‌های جدی این است که به جای حل ناکارآمدی، صرفاً برای ناکارآمدی ابزار فناورانه فراهم کنیم. همچنین مسئله اصلی در ایران نباید مسابقه برای استفاده نمایشی از هوش مصنوعی باشد، بلکه  باید مشخص شود هر پروژه چه مسئله‌ای را حل می‌کند، چه داده‌ای برای آن لازم است، چه شاخصی برای ارزیابی موفقیت وجود دارد و در نهایت مسئولیت نتیجه با چه کسی خواهد بود.

طاهری در پایان این نشست اظهار داشت: هوش مصنوعی می‌تواند در حوزه‌هایی مانند انرژی، آب، خدمات عمومی و تحلیل سیاست‌ها ظرفیت قابل توجهی ایجاد کند، اما این ظرفیت زمانی به توسعه تبدیل می‌شود که فناوری در یک فرآیند مشخص حل مسئله قرار بگیرد. بنابراین، پرسش اصلی درباره آینده هوش مصنوعی در ایران این نیست که چند مدل ساخته خواهد شد یا چه میزان توان پردازشی در اختیار خواهیم داشت، بلکه سوال اصلی این است که آیا می‌توانیم از این فناوری برای بهتر شدن فرآیند تصمیم‌گیری استفاده کنیم، بدون این­که مسئولیت تصمیم را از انسان و نهاد مسئول دور کنیم.

انتهای پیام/