تعداد کلمات: ۳۲۸۱ واژه | زمان مطالعه: ۱۹ دقیقه | موضوع: حکمرانی عملی هوش مصنوعی
ساخت برنامهای برای نظارت و راهبرد
حکمرانی عملی هوش مصنوعی (۲۰۲۶) به بررسی چالشها و فرصتهایی میپردازد که هوش مصنوعی پیش روی کسبوکارهای امروز قرار داده است. این کتاب از بهکارگیری چارچوبهایی منعطف برای مدیریت هوش مصنوعی حمایت میکند؛ چارچوبهایی که میتوانند راهنمای سازمانها در استفاده از این فناوری باشند. تعامل فعال، تصمیمگیری هوشمندانه و نظارت مستمر، از ارکان طراحی و اجرای چنین چارچوبهاییاند.
شوشانا روزنبرگ، متخصص مدیریت هوش مصنوعی و حریم خصوصی، به هیئتمدیرهها و تیمهای اجرایی دربارهٔ شیوههای مسئولانهٔ بهرهگیری از هوش مصنوعی مشاوره میدهد. او تجربهای گسترده در طراحی و استقرار برنامههای حریم خصوصی، مدیریت داده و حکمرانی هوش مصنوعی در شرکتهای جهانیِ ارائهدهندهٔ خدمات حرفهای دارد و از بنیانگذاران سازمان زنان در حکمرانی عملی هوش مصنوعی است.
خواندن این کتاب چه فایدهای دارد؟ چارچوبهایی که در عمل کار میکنند
تا همین اواخر، روال کار در سازمانها معمولاً چنین بود: شرکت به فناوری تازهای نیاز پیدا میکرد—برای نمونه، سامانهای برای مدیریت حقوق و دستمزد. بخش تدارکات چند عرضهکننده را بررسی میکرد، با یکی از آنها قراردادی چندساله میبست و بخش فناوری اطلاعات سامانه را راهاندازی میکرد. سپس کارکنان یکبار آموزش میدیدند و کار تمام میشد.
اما اکنون در عصر هوش مصنوعی هستیم؛ بهکارگیری آن در سازمان نمیتواند صرفاً به انجام چند مرحله و تیکزدن چند گزینه در یک فهرست محدود شود. هوش مصنوعی مانند فناوریهای پیشین عمل نمیکند.
ابزارهای هوش مصنوعی، دامنه و تواناییهای آنها و نیز تأثیرشان بر فضای گستردهتر کسبوکار، با شتابی چشمگیر در حال تغییرند. پس چگونه میتوان از این فناوری بهشکلی اثربخش و اخلاقی بهره گرفت؟ پاسخ، برخورداری از نظامی روشن و آیندهنگر برای حکمرانی هوش مصنوعی است؛ نظامی که بتواند همگام با تحول فناوری، خود را نیز بهسرعت سازگار کند.
این کتاب چارچوبی کاربردی در اختیارتان میگذارد تا استفاده از هوش مصنوعی را در سازمان خود هدایت کنید.
فصل اول: هدایت هوش مصنوعی دشوار است
حکمرانی عملی هوش مصنوعی؛ موضوعی پیچیده به نظر میرسد. چون واقعاً هم پیچیده است. شاید دوست داشته باشیم بتوانیم «شش نکتهٔ سریع» یا، بهتر از آن، «یک راهکار ساده» برای ساماندادن به شیوهٔ مدیریت هوش مصنوعی در سازمان شما ارائه کنیم؛ اما واقعیت این است که درک حکمرانی هوش مصنوعی دشوار است و اجرای آن دشوارتر.
خبر خوب اینکه داشتن چارچوبی روشن، حکمرانی عملی هوش مصنوعی را بسیار آسانتر از آنچه در ابتدا به نظر میرسد میکند. پیش از آنکه به چگونگی حکمرانی بر هوش مصنوعی بپردازیم، بیایید ببینیم منظور از آن چیست. در اینجا، حکمرانی هوش مصنوعی یعنی شیوهای که سازمان با آن استفاده از هوش مصنوعی را هدایت میکند: چه کسی دربارهٔ ابزارهای مورد استفاده تصمیم میگیرد؟ ریسکها چگونه مدیریت میشوند؟ خطاها چگونه شناسایی میشوند؟ و با تغییر فناوری، چگونه بر همهٔ این موارد نظارت میشود؟ تا ندانید چه چیزی را هدایت میکنید، نمیتوانید آن را بهخوبی راهبری کنید.
این کار درباره هوش مصنوعی میتواند بهویژه دشوار باشد؛ زیرا این فناوری، بهاصطلاح، ثبات چندانی ندارد و از جهاتی قابلاتکا نیست که نرمافزارهای معمولی هستند. اصطلاح کلیِ «هوش مصنوعی» طیف گستردهای از فناوریها را دربرمیگیرد: از سامانهای که پرداخت مشکوکی را روی کارت شما تشخیص میدهد تا نرمافزاری که به رادیولوژیست در بررسی اسکن کمک میکند. بااینحال، در این کتاب، وقتی از هوش مصنوعی سخن میگوییم، بیشتر منظورمان مدلهای زبانی بزرگ یا LLMهاست. این مدلها با حجم عظیمی از متن آموزش دیدهاند و میتوانند با اطمینان ایمیلی بنویسند، جلسهای را برنامهریزی کنند یا حتی غزلی بسرایند.
اما نکتهٔ مهم این است که هنگام انجام این کارها، آنها «فکر» نمیکنند؛ بلکه پیشبینی میکنند. بر پایهٔ الگوهایی که آموختهاند، واژهبهواژه محاسبه میکنند که از نظر آماری، کدام واژه بهاحتمال بیشتر در ادامه میآید. مهندسان برای این ویژگی اصطلاحی دارند: میگویند هوش مصنوعی «غیرقطعی» است. ماشینحساب قطعی است: اگر از آن بپرسید دو بهعلاوهٔ دو چند میشود، پاسخ همیشه چهار است. اما مدل زبانی بزرگ، ماشینی احتمالاتی است؛ ماشینی که ممکن است با لحنی مطمئن و روان، پاسخی نادرست بدهد.
برای نمونه، از آن بخواهید ادعایی را با ذکر منبع پشتیبانی کند؛ ممکن است مرجعی کامل با نام نویسنده، تاریخ و عنوان در اختیارتان بگذارد، درحالیکه آن پژوهش هرگز نوشته نشده است. چنین پاسخ ساختگیای بهتنهایی شاید بیضرر به نظر برسد. اما اگر افراد دیگر راستیآزمایی را کنار بگذارند و این خروجیهای مطمئن اما خیالی را واقعیت فرض کنند، چه؟ اگر چنین اطلاعاتی وارد تصمیمهای واقعی شود یا رقم نادرستی مبنای تنظیم بودجه قرار گیرد، چه پیامدی خواهد داشت؟ کمکم روشن میشود که چرا هدایت هوش مصنوعی تا این اندازه اهمیت دارد.
بااینهمه، مدیریت هوش مصنوعی گاهی شبیه رانندگی در جادهای پر از دستانداز و تمساح است؛ جادهای که شاید در دو سوی آن شنهای روان هم انتظار شما را بکشند. حکمرانی هوش مصنوعی با رعایت استانداردهای هوش مصنوعی یکی نیست، هرچند احتمال دارد سازمان شما وانمود کند که این دو یک چیزند.
فصل دوم: انطباق، راهحل نیست
سازمان شما میداند چگونه از مقررات پیروی کند. شاید حتی تیمی برای انطباق داشته باشد که مسئولیتش اطمینان از رعایت قوانین و ثبت مستندات لازم است. بنابراین، واکنش طبیعی این است که با هوش مصنوعی هم به همین شیوه برخورد کنیم: سیاستی برای استفاده از هوش مصنوعی بنویسیم، چکلیستی را اجرا کنیم و اعلام کنیم که مسئله حل شده است. اما این رویکرد کارساز نیست.
انطباق معمولاً بر این فرض استوار است که وضعیتی ثابت وجود دارد که میتوان به آن رسید و آن را حفظ کرد. در حوزهٔ مقررات، نقطهٔ پایان غالباً روشن و نسبتاً پایدار است: وقتی الزامات را برآورده کردید و همچنان به آنها پایبند ماندید، کار تمام است. این شیوه برای حوزههایی با تغییرات کندتر، مانند مالیات یا سلامت و ایمنی، میتواند مؤثر باشد؛ اما با سرعت تحولات هوش مصنوعی سازگار نیست.
برای دیدن اینکه چرا رعایت مقررات بهتنهایی کافی نیست، یک شرکت متوسط را تصور کنید که تصمیم میگیرد رویکردی کاملاً ایمن و مسئولانه در قبال هوش مصنوعی داشته باشد. شرکت سیاستی جامع تدوین میکند، از هر فروشنده میخواهد بندهای قراردادی لازم را بپذیرد و همهٔ کارکنان را دربارهٔ ابزارهای تأییدشده آموزش میدهد.
در مسیر اجرا نیز همهچیز با دقت ثبت و مستند میشود. مدیران از کارشان راضیاند و تصور میکنند مسئلهٔ هوش مصنوعی را حل کردهاند. اما در طول سال بعد، سه اتفاق رخ میدهد.
نخست، ابزار هوش مصنوعی بسیار بهتری وارد بازار میشود و رقبای شرکت همگی از آن بهره میگیرند. شرکت ما، اما، نمیتواند آن را بپذیرد؛ چون فهرست ابزارهای تأییدشدهاش از پیش بسته شده است. در نتیجه، بلندپروازترین کارکنان شرکت که از کار با نرمافزارهای سال گذشته خسته شدهاند، کمکم آنجا را ترک میکنند و به سازمانهایی میپیوندند که امکان کار با تازهترین ابزارها را به آنها میدهند.
دوم، کارکنان دیگری برای سرعتدادن به کارشان، اطلاعات حساس مشتریان را در چتباتهای عمومی و رایگان وارد میکنند؛ چون ابزارهای رسمی دیگر پاسخگوی نیازشان نیستند. نتیجه، شکست کامل رویکرد شرکت است.
آیا این یعنی رعایت مقررات هیچ جایی در رویکرد سازمان به هوش مصنوعی ندارد؟ نه، چنین نیست.
رعایت مقررات همچنان ضروری است؛ اما باید آن را حداقلِ لازم دانست، نه سقفِ کار. انطباق بهتنهایی نمیتواند نشان دهد که آیا سازمان از هوش مصنوعی خردمندانه استفاده میکند، آیا شرایط از زمان تصمیمی که شش ماه پیش گرفتهاید تغییر کرده است، یا اینکه ابزاری که سهماههٔ گذشته تأیید کردهاید هنوز انتخاب درستی است یا نه.
برای این پرسشها پاسخ ثابتی وجود ندارد. با تغییر شرایط، باید بارها و بارها آنها را از نو مطرح کرد.
فصل سوم: حکمرانی، هوش سازمانی است
اگر حکمرانی هوش مصنوعی صرفاً یک چکلیست نیست، پس چیست؟ یکی از راههای سودمند برای درک آن، این است که حکمرانی را کارکردی برای گردآوری و تحلیل اطلاعات سازمان بدانیم؛ اطلاعاتی دربارهٔ دو موضوع: آنچه درون سازمان میگذرد و آنچه نیروهای بیرونی با سازمان میکنند. سپس این اطلاعات تحلیل میشوند تا تصمیمگیریها دقیقتر و آگاهانهتر شوند. البته این تعریف، حوزهای گسترده را دربرمیگیرد.
برای هدفمندتر کردن گردآوری اطلاعات، بر پنج پرسش کلیدی تمرکز کنید:
۱. مشتریان و مراجعان شما چه انتظاری دارند؟
۲. کارکنانتان چه میخواهند؛ از چه ابزارهایی، چه آموزشی و چه اندازه آزادی برای آزمودن ایدههای تازه؟
۳. نهادهای ناظر چه میکنند؟
۴. رقبایتان چه میکنند؟
۵. سازمان شما تا چه اندازه برای پذیرش ریسک و پیگیری فرصتهای تازه آمادگی دارد؟
آنچه در هر یک از این حوزهها میگذرد، پیوسته تغییر میکند. پس به گردآوری پراکندهٔ اطلاعات بسنده نکنید؛ تحولات را بهطور مستمر زیر نظر بگیرید. البته «نظارت مداوم» ممکن است بهسادگی به «اضافهبار اطلاعاتی» بینجامد. برای پیشگیری از این وضعیت، باید از ابتدا برای گردآوری و گردش اطلاعات، ساختاری روشن در نظر بگیرید.
این ساختار را مانند ستون فقراتی تصور کنید؛ مجرایی واحد که اطلاعات را به شاخههای گوناگون سازمان میرساند. در پایینترین سطح، کار را با راهکاری ساده آغاز کنید: مثلاً فرمی برای ثبت درخواستها و بازخوردها که هر کارمند بتواند پیش از استفاده از ابزاری تازه، پرسشی مطرح کند، نگرانیاش را ثبت کند یا درخواست ارزیابی ریسک بدهد.
وجود نقطهای روشن و در دسترس برای ثبت این موارد باعث میشود کسی که در بخش بازاریابی، برای نمونه، با برنامهای امیدوارکنندهٔ مبتنی بر هوش مصنوعی آشنا میشود، بداند نظر یا پیشنهادش را کجا مطرح کند. در گام بعد، گروهی کوچک و چندتخصصی تشکیل دهید که نمایندگانی از بخشهای اصلی سازمان در آن حضور داشته باشند. این گروه باید بهطور منظم گرد هم بیاید و در اطلاعات ثبتشده بهدنبال الگوها بگردد. برای مثال، شاید متوجه شود که چهار بخش مختلف در طول یک ماه دربارهٔ نوع مشخصی از ابزار پرسوجو کردهاند.
در بالاترین سطح، اطلاعات مهم باید به کمیتهای راهبری برسد که اختیار تصمیمگیری دارد. این کمیته میتواند دربارهٔ تأیید ابزارها تصمیم بگیرد، بودجه اختصاص دهد و سیاستها را متناسب با نیازها بهروزرسانی کند.
نگرانیها و ایدههای تازه میتوانند از سوی کسانی مطرح شوند که کار را در عمل پیش میبرند؛ در مقابل، تصمیمها و راهنماییها از سطوح بالاتر به آنها منتقل میشوند. بااینحال، احتمالاً یکی از ارزشمندترین منابع اطلاعاتی شما تیمهای فنیتان هستند. این تیمها ابزارهایی مانند ChatGPT را به محصولات شرکت متصل میکنند، آنها را با دادههای سازمان سازگار میسازند و محدودیتهایشان را تعیین میکنند. کارهای آنها پیوسته تغییر میکند و این تغییرات میتوانند بر نحوهٔ عملکرد سامانهها و میزان ریسکی که سازمان میپذیرد اثر بگذارند.
بنابراین، ضروری است که این تیمها همهٔ تغییرات را ثبت کنند؛ از جمله اینکه چرا تغییری انجام شده و چه نتیجهای داشته است. با ایجاد جریان مؤثر اطلاعات و مستندسازی دقیق، میتوانید تصویری روشن از نحوهٔ استفادهٔ سازمانتان از هوش مصنوعی به دست آورید. اما دیدنِ وضعیت موجود کافی نیست؛ به برنامهای برای حکمرانی نیاز دارید که هم بتواند بهسرعت با تغییرات سازگار شود و هم دیدی روشن و بهروز از آنچه در سازمان میگذرد فراهم کند.
فصل چهارم: سازگاری، بیآنکه آشفتگی بیافریند
حکمرانی مؤثر هوش مصنوعی باید تا اندازهای معقول انعطافپذیر باشد. نه آنقدر انعطافناپذیر که نتواند با تحولات هوش مصنوعی همگام شود، و نه آنقدر بیثبات که هر سه ماه یکبار سازمان را وادار کند بیانیهٔ مأموریتش را کنار بگذارد یا اصول پایدارش را از نو تعریف کند. اگر سازوکار حکمرانی بتواند همگام با هوش مصنوعی تغییر کند، لازم نیست همهچیز دیگر هم تغییر کند. اما سازگاری در عمل یعنی چه؟
در سادهترین شکل، یعنی داشتن برنامهای برای حکمرانی که بتواند خودش را با شرایط تازه وفق دهد. شاید درک این مفهوم کمی دشوار باشد؛ پس بیایید آن را باز کنیم. یک برنامهٔ سازگار برای حکمرانی هوش مصنوعی، قواعد، سطحبندی ریسک، فهرست ابزارهای تأییدشده و حتی پیامهایی را که به دیگران میرساند، اهرمهایی قابلتنظیم میبیند. با رسیدن اطلاعات تازه، بررسی میکند که کدام بخشها نیاز به اصلاح دارند.
گاهی پاسخ، بازنگری در یک فرایند است؛ برای مثال، مرحلهٔ تأییدی که سال گذشته منطقی به نظر میرسید، ممکن است امروز تنها مانع و اصطکاکی بیدلیل ایجاد کند. گاهی هم مسئله به پیامرسانی مربوط است: آنچه به کارکنان یا مشتریان میگویید، دیگر با مسیر و عملکرد واقعی سازمان همخوانی ندارد.
البته گاهی لازم است راهبرد هم تغییر کند؛ اما پیش از آنکه به بازنویسی کامل دستورالعملها برسید، میتوان اصلاحات کوچکتری انجام داد. برای دیدن اینکه برنامهای سازگار برای حکمرانی هوش مصنوعی چگونه در عمل کار میکند، به فرایند تدارکات فکر کنید: خرید ابزارهای نرمافزاری و تعامل با تأمینکنندگان. سازمانی را تصور کنید که در بهکارگیری هوش مصنوعی پیشرو است. طبیعی است که تیم تدارکات آن هم بسیار پرمشغله باشد. هر ابزار تازهای که سازمان به کار میگیرد، از تأمینکنندهای بیرونی میآید و در نتیجه به ارزیابی، تأیید، مذاکره و عقد قرارداد نیاز دارد. حالا فرض کنید تیم طراحی این شرکت هجده ماه پیش، ابزاری مبتنی بر هوش مصنوعی برای تولید تصویر انتخاب کرده است.
اگر برنامهٔ حکمرانی شرکت ضعیف و انعطافناپذیر باشد، ممکن است همان ابزار آخرین ابزاری باشد که به کار میگیرد. بررسی و تأیید ابزارهای تازه و بهتر میتواند بیش از ظرفیت تیم تدارکات باشد. اما برنامهای سازگار، پذیرش یک ابزار را تصمیمی همیشگی نمیداند؛ بلکه آن را انتخابی میبیند که باید در گذر زمان دوباره ارزیابی شود.
مهمتر از همه، چنین برنامهای میتواند محرکی روشن برای بازنگری تعیین کند؛ برای نمونه، بررسیهای منظم یا نظرسنجیهای فصلی از کاربران هر ابزار. به این ترتیب، این پرسش که آیا ابزارهای کنونی هنوز بهترین گزینهاند یا نه، بهطور مرتب مطرح میشود. تیم تدارکات همچنان قراردادها را پیگیری میکند، اما سازوکار حکمرانی اطمینان میدهد که این فرایند از همان ابتدا در مسیر انتخاب ابزار مناسب قرار داشته باشد.
در نتیجه، وقتی گزینهای بهتر از راه برسد، شرکت سه ماه بعد از آن باخبر میشود، نه سه سال بعد. سازگاری به تغییرات بزرگ و ناگهانی نیاز ندارد؛ بلکه مجموعهای از اصلاحات کوچک و ساختاریافته میتواند سازمان را از بازنگریهای اساسی و پرهزینه در مسیر کار بینیاز کند.
بفرمایید، سؤالتون رو هم بپرسید.
فصل پنجم: وقتی همه هوش مصنوعی را میفهمند، مسئولیتش هم با همه است
مسئولیت برنامهٔ حکمرانی هوش مصنوعی سازمان شما بر عهدهٔ چه کسی است؟ مدیرعامل؟ مدیر ارشد فناوری؟ پاسخ شاید غافلگیرکننده باشد: هیچکس بهتنهایی.
دقیقتر بگوییم، هیچ فرد واحدی نمیتواند مالک حکمرانی هوش مصنوعی باشد. ممکن است یکی از کارکنان مسئول هدایت برنامه باشد، اما مسئولیت آن باید میان تیمهای اصلی سازمان تقسیم شود. به بیان دیگر، برنامهٔ حکمرانی هوش مصنوعی باید به همهٔ افراد سازمان تعلق داشته باشد.
هر تیم میتواند نقشی در این کار ایفا کند: بازاریاب، پیش از انتشار کارزار تبلیغاتیِ تولیدشده با هوش مصنوعی، درستی ادعاهای آن را بررسی میکند؛ مهندس، دلیل تغییر محدودیتهای سامانه را ثبت میکند؛ مدیر مالی دربارهٔ ابزارهایی تصمیم میگیرد که میتوان به آنها در پردازش ارقام حساس اعتماد کرد؛ و نمایندهٔ خدمات مشتری، زمانی که ربات گفتوگو پاسخهایی نادرست یا نامطمئن میدهد، موضوع را گزارش میکند. حکمرانی و مسئولیتپذیری در همین تصمیمها و اقدامهای روزمره، در سراسر سازمان شکل میگیرد. اما نمیتوان مسئولیت چیزی را بر عهده گرفت که آن را نمیفهمیم.
سواد هوش مصنوعی پایهای است که حکمرانی مؤثر بر آن استوار میشود. همهٔ افراد سازمان باید درکی عملی از تواناییهای این ابزارها داشته باشند و، مهمتر از آن، محدودیتهایشان را بشناسند. منظورمان از سواد هوش مصنوعی، دانشی نیست که با گذراندن یک دورهٔ کوتاه، تماشای یک ویدئو یا پاسخدادن به چند پرسش به دست آید؛ بلکه از آموزشی معنادار و پیوسته سخن میگوییم که با مسئولیتها و نقش هر فرد تناسب داشته باشد.
چرا یکبار آموزشدادن کافی نیست؟ فرض کنید یکی از تحلیلگران مالی شما در دورهٔ عمومی هوش مصنوعی شرکت میکند و با این پیام کلیدی از جلسه بیرون میآید: هوش مصنوعی بهرهوری را افزایش میدهد.
چند ماه بعد، در آستانهٔ یک مهلت فشرده، او از چتباتی میخواهد ارقام کلیدی را از پروندهای پیچیده و طولانی استخراج کند. پاسخ چتبات رضایتبخش به نظر میرسد و اعداد بهروشنی نمایش داده شدهاند. اما تحلیلگر نمیداند که اگر ابزار نتواند رقم موردنظر را در سند پیدا کند، ممکن است بهجای پذیرفتن ناتوانیاش، عددی باورپذیر بسازد. در نتیجه، رقمی نادرست وارد گزارش مشتری میشود و تا زمانی که خود مشتری متوجه خطا نشود، کسی آن را نمیبیند.
حالا همین موقعیت را با آموزشی دقیق، پیوسته و متناسب با نقش افراد تصور کنید. در این حالت، تیم مالی با اسناد واقعی و مرتبط با کارش آموزش میبیند و بهطور عملی میبیند که چتبات ممکن است بهجای خالیگذاشتن پاسخ، رقمی را که نمیتواند بیابد، جعل کند.
با چنین دانشی، تحلیلگر مالی میتواند برای کار روزمرهاش قاعدهای روشن در نظر بگیرد: هر اطلاعاتی را که هوش مصنوعی از منبعی استخراج میکند، پیش از استفاده با همان منبع تطبیق دهد. این آموزش هم رویدادی یکباره نیست؛ با تغییر ابزارها و شرایط، بهروز میشود.
حکمرانی مؤثر هوش مصنوعی به مسئولیتپذیری مشترک وابسته است. این مسئولیتپذیری زمانی شکل میگیرد که کارکنان آموزش دیده باشند، سامانههای هوش مصنوعی را بشناسند و بدانند چگونه از آنها درست و آگاهانه استفاده کنند.
فصل ششم: همهچیز به ذهنیت بستگی دارد (مجموعهای از نگرشها)
ایجاد سازوکار حکمرانی هوش مصنوعی یک چیز است؛ پذیرفتن و بهکاربستن آن، چیزی دیگر. برای این کار باید نگرش کلی سازمان را تغییر دهید؛ یعنی به کارکنان کمک کنید شیوهای درست برای اندیشیدن به سامانههای هوش مصنوعی، استفاده از آنها و ارزیابیشان در پیش بگیرند. این تغییر بر چهار جابهجایی ذهنی استوار است.
نخست، از ساخت سامانههای هوش مصنوعی به سوی کاربردی و قابلفهمکردن آنها در دنیای واقعی.
مهندسی را تصور کنید که تنها بر ساخت سامانه تمرکز دارد. او ممکن است ابزار هوش مصنوعی را به سامانهٔ درخواست وام متصل کند، مطمئن شود که سامانه درخواستها را تأیید یا رد میکند و کار را تمامشده بداند. اما اگر متقاضیِ ردشده بپرسد چرا درخواستش پذیرفته نشده، شاید شرکت پاسخ روشنی نداشته باشد.
مهندسی که نقش پیونددهنده را هم بر عهده میگیرد، این مسئله را پیش از راهاندازی سامانه شناسایی میکند. اگر هوش مصنوعی نتواند تصمیمهایش را توضیح دهد، سازمان باید از پیش مشخص کند که آن تصمیمها چگونه توجیه و به افراد ابلاغ خواهند شد. پیونددهندگی یعنی مرتبطکردن آنچه ساخته شده است با تیمهایی که از آن استفاده میکنند، فرایندهایی که تغییر مییابند و مشتریانی که از این تغییرات تأثیر میپذیرند.
دوم، از ترس به سوی فرصت.
نگرشی مبتنی بر ترس، هوش مصنوعی را تهدیدی تازه میبیند که باید با سیاستهای سختگیرانه و رویکرد «صبر کنیم و ببینیم چه میشود» مهارش کرد. اما نگرش فرصتمحور، پرسش بهتری مطرح میکند. بهجای اینکه بپرسد «اگر این را امتحان کنیم، چه مشکلی ممکن است پیش بیاید؟»، میپرسد: «اگر امتحانش نکنیم، چه فرصتهایی را از دست میدهیم؟»
سوم، از ارزشها به سوی محدودیتهای روشن.
بسیاری از سازمانها ارزشهایی دربارهٔ هوش مصنوعی مینویسند که خوشایند به نظر میرسند، اما در عمل راهنمای تصمیمگیری نیستند. نمونهای آشنا از این دست، جملهٔ «ما از هوش مصنوعی مسئولانه استفاده میکنیم» است. چنین ارزشی بهخودیخود بد نیست؛ اما اگر با ضوابط روشن همراه نباشد، معنای عملی چندانی ندارد.
بهتر است بهجای بیان کلی ارزشها، دقیقاً مشخص کنید از چه خط قرمزهایی عبور نخواهید کرد. برای نمونه: «هیچ درخواست استخدامی بدون بررسی اولیهٔ انسانی به کمک هوش مصنوعی رد نمیشود» یا «هیچگونه دادهٔ مشتری در ابزاری وارد نمیشود که سازمان آن را ارزیابی نکرده باشد.»
چهارم، از ادعاهای چشمگیر به سوی صداقت.
وسوسهانگیز است که تواناییهای هوش مصنوعی را بزرگنمایی کنیم و بگوییم سامانهای کاملاً خودکار است یا «۹۹ درصد دقت» دارد. اما اگر همان سامانه به مداخلهٔ انسانی نیاز پیدا کند، چه؟ ادعاهایتان را صادقانه و واقعبینانه بیان کنید؛ این کار به حفظ اعتماد کارکنان و مشتریان نیز کمک میکند.
با این چهار تغییر، حکمرانی هوش مصنوعی از مجموعهای از قواعد صرف فراتر میرود و به شیوهای برای اندیشیدن و عملکردن در سراسر سازمان تبدیل میشود.
جمعبندی نهایی
در کتاب «حکمرانی عملی هوش مصنوعی» نوشتهٔ شوشانا روزنبرگ آموختید که هوش مصنوعی، بدون سازوکاری سنجیده و انعطافپذیر برای حکمرانی، نمیتواند ابزاری ارزشمند باشد و منشأ مسئولیت و ریسک. برای هدایت استفاده از هوش مصنوعی در سازمان، باید سازوکارهایی ایجاد کنید که اطلاعات مربوط به کاربرد آن را گردآوری کنند، بازبینی منظم ابزارها را امکانپذیر سازند، مسئولیت را در سراسر سازمان گسترش دهند، آموزشهای دقیق و متناسب با نقش کارکنان فراهم کنند و میان اصول سازمان و عملکرد روزمرهاش هماهنگی برقرار سازند.
این کار آسان نیست؛ اما بهترین فرصت سازمان شماست تا از هوش مصنوعی بهشکلی هوشمندانه و مسئولانه بهره بگیرد.
و این هم پایان این مرور کوتاه بر کتاب بود. امیدواریم از آن لذت برده باشید. اگر فرصت داشتید، خوشحال میشویم به آن امتیاز بدهید؛ همیشه از دریافت بازخورد شما استقبال میکنیم. در مرور بعدی میبینمتان.
شما میتوانید این کتاب را از انتشارات مکتب تغییر تهیه کنید.














