استفاده از بلاک‌چین برای جلب اعتماد مشتریان به هوش مصنوعی (HBR)

این مقاله در مجله کسب و کار هاروارد منتشر شده که منبعی معتبر و ارزشمند در حوزه کسب و کار است.

نویسندگان: اسکات زولدی و جردن تی. لوین

ترجمه شده توسط تیم گیت (Git.ir)

در مدت‌زمانی بسیار کوتاه، سازمان‌ها در صنایع مختلف از هوش مصنوعی برای اتخاذ تصمیم‌هایی استفاده کرده‌اند که بر زندگی روزمره افراد تأثیر می‌گذارد. از آنجا که هوش مصنوعی را می‌توان «آینه‌ای دانست که سوگیری‌ها و ضعف‌های اخلاقی ما را بازتاب می‌دهد»، این کاربردها گاهی به اشتباهات ناخوشایند و حتی فاجعه‌بار منجر شده‌اند.

سوگیری تنها یکی از دلایلی است که باعث شده هوش مصنوعی به‌عنوان یک «جعبه سیاه» با مشکل اعتماد شناخته شود. بر اساس پژوهشی از Pew Research، 52 درصد آمریکایی‌ها نسبت به هوش مصنوعی در زندگی روزمره بیشتر نگران هستند تا هیجان‌زده، در حالی که تنها 10 درصد دیدگاه معکوس دارند.

واضح است که هوش مصنوعی باید خود را به‌عنوان یک فناوری قابل‌اعتماد اثبات کند. برای این منظور، شرکت‌هایی که از این فناوری استفاده می‌کنند باید اطمینان حاصل کنند که تصمیمات مدل‌های تحلیلی آن‌ها قابل‌تفسیر، قابل‌ممیزی و قابل‌اجرا هستند.

«قابلیت تفسیر» کمک می‌کند فناوری قابل فهم باشد. «قابلیت ممیزی» امکان پاسخ‌گویی را فراهم می‌کند. و «قابلیت اجرا» ابهام‌ها را کاهش می‌دهد و زمینه ایجاد اعتماد را فراهم می‌کند.

اگر سازمان‌ها می‌خواهند از سرمایه‌گذاری‌های خود در هوش مصنوعی مزایای واقعی کسب کنند، باید اعتماد مشتریان را جلب کنند. بی‌اعتمادی گسترده اجتماعی به این فناوری تنها زمانی کاهش می‌یابد که بتوان به پرسش‌های مشتریان، نهادهای نظارتی و سایر ذی‌نفعان درباره نحوه عملکرد آن پاسخ داد. استفاده از سازوکارهای مبتنی بر بلاکچین، مسیری عملی برای ایجاد پاسخ‌گویی و قابلیت اجرا فراهم می‌کند.

در شرکت FICO، از فناوری بلاکچین برای افزایش اعتماد مصرف‌کنندگان و صنعت مالی به هوش مصنوعی استفاده شده است. بلاکچین امکان ثبت غیرقابل‌تغییر تمامی مراحل توسعه مدل‌های هوش مصنوعی را فراهم می‌کند و تضمین می‌کند که هر اقدام مطابق با الزامات سازمانی و استانداردهای هوش مصنوعی مسئولانه انجام شده است.

این رویکرد به‌جای ایجاد بی‌اعتمادی نسبت به دانشمندان داده، نشان می‌دهد که اعتماد یک موضوع شخصی نیست؛ همان‌طور که برای مسائل مهم زندگی قرارداد وجود دارد، در اینجا نیز سازوکارهای شفاف و قابل اتکا لازم است. بلاکچین برای مقصر دانستن افراد طراحی نشده، بلکه هدف آن ایجاد شفافیت، کارایی، امنیت و پایبندی به استانداردهاست.

با وجود ساختارهای مناسب حاکمیتی و پاسخ‌گویی، نوآوری در حوزه هوش مصنوعی می‌تواند در فضایی امن و گسترده رشد کند.

در این مقاله، یک مطالعه موردی دی بلاگ ارائه می‌شود که نشان می‌دهد FICO چگونه به استفاده از بلاکچین برای مدیریت توسعه مدل‌های هوش مصنوعی روی آورده، چه مزایایی برای کسب‌وکار ایجاد کرده و سایر سازمان‌ها چگونه می‌توانند از این رویکرد بهره ببرند.

چرا بلاکچین کار می‌کند

سند ATD مسیر طولانی‌ای را از فایل‌های Word حجیم طی کرده است. رویکرد مبتنی بر بلاکچین در FICO هر وظیفه را به یک رابط کاربری ساده تبدیل کرده که در جریان کاری روزانه دانشمندان داده ادغام شده است. در این سیستم، حتی اگر یک دانشمند داده تمایلی به استفاده از این روش نداشته باشد، عملاً نمی‌تواند از آن اجتناب کند؛ ثبت هر تصمیم توسعه در بلاکچین بخشی از فرایند استاندارد کار است و شرط لازم برای انتشار مدل‌ها محسوب می‌شود.

FICO دریافته که ارزش تجاری ثبت غیرقابل‌تغییر بلاکچین بسیار قابل‌توجه است. این رویکرد باعث ایجاد یکنواختی در یک سازمان جهانی علم داده شده است؛ به‌طوری‌که توسعه مدل‌ها در میان صدها دارایی تحلیلی در سال، به‌شکل استاندارد انجام می‌شود و سردرگمی و اتلاف منابع به حداقل می‌رسد.

کاهش اتلاف اهمیت زیادی دارد، به‌ویژه با توجه به هزینه‌های فرصت بسیار بالای از دست دادن نوآوری و هزینه‌های واقعی مربوط به نیروی متخصص هوش مصنوعی و منابع محاسباتی. در صنعت خدمات مالی، این موضوع به‌نوعی یک راز آشکار است که تنها بخش کوچکی از مدل‌های هوش مصنوعی توسعه‌یافته به مرحله اجرا می‌رسند، زیرا شفافیت کافی درباره محتوا و عملکرد آن‌ها وجود ندارد. یک نظرسنجی McKinsey در سال 2019 نشان داد که تنها 25% تا 36% از شرکت‌ها توانسته‌اند هوش مصنوعی را در کاربردهای مختلف به‌کار گیرند. هرچند این اعداد بهبود یافته‌اند، اما همچنان بخش زیادی از سرمایه‌گذاری‌ها بدون استفاده باقی می‌ماند.

در نهایت، FICO به‌خوبی می‌داند چرا بلاکچین مؤثر است، چون بسیاری از مشکلات دیگر رخ نمی‌دهند. مدل‌ها به‌دلیل عدم اطمینان درباره ریسک یا نبود مستندات کافی متوقف نمی‌شوند. دانشمندان داده به‌طور ناخواسته از مدل‌های عملیاتی در پروژه‌های تحقیقاتی استفاده نمی‌کنند یا آزمایش‌ها را بدون کنترل وارد محیط واقعی نمی‌کنند. بلاکچین تیم‌ها را هماهنگ، استانداردمحور و منطبق با الزامات نگه می‌دارد و مدل‌هایی تولید می‌کند که معیارهای کیفیت و ایمنی را رعایت می‌کنند.

نتیجه این است که مشکلات پشتیبانی مدل‌ها تقریباً به صفر رسیده و انطباق کامل با استانداردهای توسعه مدل، حتی در سرعت بالا، تضمین می‌شود.

همه این‌ها کلید عملیاتی ایجاد اعتماد به هوش مصنوعی است. این رویکرد به FICO کمک می‌کند خروجی‌هایی تولید کند که به‌طور کامل با استانداردهای هوش مصنوعی مسئولانه هم‌راستا هستند و شواهد مستند برای آن وجود دارد. در نتیجه، تجربه کاربران نیز با این استانداردها سازگار خواهد بود.

چگونه FICO بلاکچین را برای هوش مصنوعی عملیاتی کرد

راه‌اندازی این سیستم در وهله اول یک چالش فناورانه نبود، بلکه یک چالش سازمانی و انسانی بود. پس از حل این بخش، مسائل طراحی و فناوری نیز مطرح شدند، اما دشوارترین قسمت همان مرحله اول بود.

در ادامه، مهم‌ترین درس‌هایی که در این مسیر به دست آمد را مرور می‌کنیم:

ابتدا استانداردها، سپس فناوری

بدون داشتن استاندارد مشخص برای توسعه مدل‌های هوش مصنوعی، استفاده از بلاکچین برای ثبت جزئیات عملاً بی‌فایده است. این مرحله معمولاً دشوارترین بخش مسیر است، زیرا سازمان باید تصمیم‌های جدی بگیرد؛ از جمله اینکه چه الگوریتم‌هایی مجاز هستند، مدل‌ها تا چه حد باید قابل‌تفسیر باشند، روش‌های ارزیابی اخلاقی چگونه انجام شوند و چگونه الزامات قانونی رعایت شود.

در FICO، این موضوع نیازمند ایجاد اجماع درباره اهمیت یکپارچگی نتایج تحلیلی و تشکیل کمیته‌ای برای تعریف استانداردها و آموزش آن‌ها به کل تیم بود.

کاربرپسند بودن، یک الزام است

در FICO، جلب موافقت دانشمندان داده برای استفاده از این سیستم چندان دشوار نبود. بسیاری از آن‌ها از ساختار مشخص، هم‌راستایی خودکار با استانداردها و چارچوب‌های رسمی برای هوش مصنوعی مسئولانه استقبال کردند، زیرا این موارد از آن‌ها و خروجی کارشان محافظت می‌کند.

اما چالش اصلی، طراحی رابط کاربری بین کاربران و بلاکچین بود. این موضوع فقط به طراحی دکمه‌ها و فرم‌ها محدود نمی‌شد، بلکه باید به دانشمندان داده کمک می‌کرد از یک رویکرد فردمحور و خطی به یک ذهنیت تیمی منتقل شوند؛ جایی که چندین نفر بتوانند هم‌زمان کار کنند و خروجی یکدیگر را بررسی کنند.

در نهایت، سرمایه‌گذاری قابل‌توجهی برای ساده‌سازی استفاده از سیستم انجام شد تا تمرکز کاربران روی کار فکری باشد، نه پیچیدگی‌های نظارتی. این رابط کاربری به‌صورت یکپارچه در جریان کاری آن‌ها ادغام شد.

برای رسیدن به این هدف، سازمان‌ها باید فرایندهای رسمی تعریف نیازمندی‌های کسب‌وکار و محصول را طی کنند تا همه ذی‌نفعان درباره نحوه عملکرد سیستم و تعامل کاربران با آن به توافق برسند. بسیار مهم است که پیش از شروع توسعه، انتظارات درباره ساختار، کارکرد و نحوه اجرا کاملاً هم‌راستا شوند.

مهم‌تر از همه، ایجاد اصطکاک در تجربه کاربری قابل‌قبول نیست. این موضوع نیازمند خلاقیت در توسعه نرم‌افزار از همان ابتداست. برای مثال، لازم بود تعادلی ایجاد شود بین این واقعیت که دانشمندان داده نیازی به درک جزئیات بلاکچین ندارند و الزام استفاده از این ابزار. همچنین، نیاز به گزارش‌گیری لحظه‌ای از وضعیت توسعه مدل‌ها وجود داشت، بدون اینکه کاربران مجبور به تولید گزارش باشند.

تکرار بر اساس دستاوردهای سریع

در گام بعدی، باید برای اجرای نمونه‌های اولیه از طراحی‌های اولیه آماده باشید تا نسخه‌ای ابتدایی از سیستم به‌سرعت راه‌اندازی شود. سپس می‌توان سناریوهای کاربردی مختلف را بررسی کرد؛ از جمله تعریف الزامات، به‌روزرسانی‌های توسعه، به‌روزرسانی‌های آزمون، اعتبارسنجی، تأیید یا رد مدل و همچنین نحوه بازنشانی وضعیت الزامات در صورت رد شدن یک مدل.

در این مسیر، تمرکز ویژه‌ای باید بر نحوه سنجش «کامل بودن» وجود داشته باشد، زیرا هیچ مدلی تا زمانی که تمام الزامات توسط توسعه‌دهنده، آزمونگر و اعتبارسنج تأیید نشده باشد، منتشر نمی‌شود. بنابراین باید مشخص شود این اطلاعات چگونه از بلاکچین استخراج و به ذی‌نفعان ارائه می‌شود.

همه چیز را برای همیشه یکپارچه نگه دارید

هیچ کاربرد تحلیلی هرگز کاملاً به پایان نمی‌رسد؛ بلکه دائماً در حال تکامل است و فرایندها، به‌ویژه وابستگی‌ها، نباید فراموش شوند. از این‌رو، از منظر فنی، لازم است به مخازنی فکر شود که دارایی‌های بزرگ هوش مصنوعی را در ذخیره‌سازی‌های جایگزین نگهداری می‌کنند، همراه با مکانیزم‌هایی مانند هش و چک‌سام که صحت و یکپارچگی این دارایی‌ها را تضمین می‌کنند.

این مخازن باید به‌صورت مداوم پایش شوند و در صورت هرگونه تغییر یا انتقال به زیرساخت‌های دیگر در سازمان، هشدارهای لازم صادر شود.

نگهداری، ماهیتی متفاوت دارد

در نهایت، واقعیت اصلی درباره سیستم‌های مدیریت توسعه مدل مبتنی بر بلاکچین این است که آن‌ها نیز نرم‌افزار هستند؛ نرم‌افزارهایی که نیازمند مدیریت امنیت، رسیدگی به آسیب‌پذیری‌ها، نگهداری و به‌روزرسانی مداوم هستند.

تیم‌های فناوری اطلاعات معمولاً با این چالش‌ها در نرم‌افزارهای سازمانی آشنا هستند، اما در حوزه توسعه هوش مصنوعی، توسعه‌دهندگان باید مهارت‌های جدیدی کسب کنند یا با منابع تخصصی دیگر همکاری کنند تا بتوانند این نیازها را برآورده کنند.

اعتماد به هوش مصنوعی به‌سادگی شکل نمی‌گیرد. این ابزارهای قدرتمند جدید باید استانداردهای بالایی را برآورده کنند. بی‌اعتمادی گسترده به این فناوری تنها زمانی کاهش می‌یابد که مشتریان، نهادهای نظارتی و سایر ذی‌نفعان درک روشنی از نحوه عملکرد آن داشته باشند و بتوانند به عملکرد صحیح مدل‌ها اطمینان کنند.

رویکرد مبتنی بر بلاکچین دقیقاً همین را فراهم می‌کند: پاسخ‌گویی، شفافیت و قابلیت اجرا. با ایجاد یک چارچوب شفاف و قابل‌اتکا، این رویکرد به کاربران دلیل می‌دهد تا به این ابزارهای قدرتمند اعتماد کنند.

نکات کلیدی

افزایش شفافیت هوش مصنوعی.  بلاکچین تمام مراحل توسعه مدل را ثبت می‌کند و عدم قطعیت و سوگیری را کاهش می‌دهد.

افزایش شفافیت هوش مصنوعی.  بلاکچین تمام مراحل توسعه مدل را ثبت می‌کند و عدم قطعیت و سوگیری را کاهش می‌دهد.

تقویت پاسخ‌گویی.  ثبت غیرقابل‌تغییر اطلاعات از بروز اختلاف جلوگیری کرده و رعایت استانداردهای هوش مصنوعی مسئولانه را تضمین می‌کند.

تقویت پاسخ‌گویی.  ثبت غیرقابل‌تغییر اطلاعات از بروز اختلاف جلوگیری کرده و رعایت استانداردهای هوش مصنوعی مسئولانه را تضمین می‌کند.

ساده‌سازی حاکمیت.  خودکارسازی ردیابی مدل‌ها، فرایندهای انطباق را تسهیل و بار اداری را کاهش می‌دهد.

ساده‌سازی حاکمیت.  خودکارسازی ردیابی مدل‌ها، فرایندهای انطباق را تسهیل و بار اداری را کاهش می‌دهد.

اهمیت تجربه کاربری.  موفقیت این سیستم‌ها علاوه بر فناوری، به پذیرش کاربران بستگی دارد و طراحی مناسب رابط کاربری نقش کلیدی در این مسیر دارد.

اهمیت تجربه کاربری.  موفقیت این سیستم‌ها علاوه بر فناوری، به پذیرش کاربران بستگی دارد و طراحی مناسب رابط کاربری نقش کلیدی در این مسیر دارد.