دستیار هوشمند و چت‌بات

هوش مصنوعی پنهان در سازمان؛ چرا همه‌ی همکاران باید در یک محیط مشترک کار کنند

همکاران هر روز برای کارشان اطلاعات سازمان را در حساب شخصی ChatGPT یا مدل‌های دیگر می‌گذارند. این داده و دانشی که ساخته می‌شود از سازمان بیرون می‌رود. راه‌حل، یک محیط مشترک با حساب‌های سازمانی، انتخاب مدل و حافظهٔ سازمانی است.

پنجره‌های چت شخصی پراکنده بیرون از سازمان در برابر یک محیط مشترک هوش مصنوعی با حساب‌های سازمانی و حافظهٔ مشترک
فهرست مطالب

همین حالا در سازمان شما، احتمالاً کسی دارد متن یک قرارداد را در ChatGPT کپی می‌کند تا خلاصه‌اش را بگیرد. کس دیگری جدول فروش ماه را در Gemini می‌گذارد تا نموداری برای جلسه بسازد. هر دو کار خوبی می‌کنند و وقت سازمان را صرفه‌جویی می‌کنند. ولی هر دو، بی‌آنکه بخواهند، دادهٔ سازمان را به حساب شخصی‌شان روی سرور بیرونی برده‌اند. به این پدیده هوش مصنوعی پنهان (Shadow AI) می‌گویند.

مشکل فقط امنیت نیست

ریسک امنیتی واضح است: اطلاعات مشتری، قیمت‌ها، قراردادها و داده‌های مالی در حساب‌هایی می‌ماند که سازمان هیچ کنترلی رویشان ندارد. با رفتن یک همکار، آن حساب هم با تمام تاریخچه‌اش می‌رود. اما یک هزینهٔ کمتر دیده‌شده هم هست:

دانشی که در این گفتگوها ساخته می‌شود، در سازمان نمی‌ماند.

کارشناسی که با کمک هوش مصنوعی بهترین روش محاسبهٔ یک شاخص را پیدا کرده، یا تحلیل خوبی از علت افت فروش یک منطقه نوشته، این یافته را در تاریخچهٔ چت شخصی خودش نگه می‌دارد. همکار دیگری ماه بعد همان مسیر را از صفر طی می‌کند. سازمان برای یک دانش، چند بار هزینه می‌دهد و هیچ‌وقت صاحبش نمی‌شود.

مقایسهٔ حالت پراکنده که هر همکار با حساب شخصی در چت‌بات‌های مختلف کار می‌کند، با حالت مشترک که همه در یک محیط با حساب سازمانی، انتخاب مدل و حافظهٔ مشترک کار می‌کنند
در حالت پراکنده، داده بیرون می‌رود و دانش گم می‌شود. در محیط مشترک، هر دو در سازمان می‌مانند.

چرا ممنوع کردن جواب نمی‌دهد

اولین واکنش خیلی از سازمان‌ها بستن دسترسی به این ابزارهاست. ولی همکاران ابزاری پیدا کرده‌اند که کارشان را واقعاً سریع‌تر می‌کند، و ممنوعیت فقط استفاده را پنهان‌تر می‌کند: از رایانهٔ شرکت به گوشی شخصی.

راه‌حل پایدار این است که سازمان محیطی بهتر از حساب شخصی فراهم کند. محیطی که همکاران خودشان ترجیحش بدهند، چون:

  • همان مدل‌های قوی را دارد، و حتی امکان انتخاب بین چند مدل.
  • به دادهٔ واقعی سازمان وصل است؛ کاری که حساب شخصی هرگز نمی‌تواند بکند.
  • تاریخچه و یافته‌ها را نگه می‌دارد و با تیم به اشتراک می‌گذارد.

CHAI؛ یک محیط هوش مصنوعی برای همه‌ی همکاران

CHAI، دستیار هوشمند چهارگاه، دقیقاً برای همین ساخته شده است. CHAI فقط چت‌بات مدیرعامل نیست؛ محیط کار هوش مصنوعی همهٔ سازمان است:

  1. حساب کاربری سازمانی برای هر همکار. به‌جای اینکه هر کس با حساب شخصی‌اش سراغ ChatGPT برود، همه با حساب سازمانی وارد CHAI می‌شوند. با رفتن یک همکار، حسابش بسته می‌شود و دانشش در سازمان می‌ماند.
  2. انتخاب مدل. هر کاربر برای هر کار مدل مناسب را انتخاب می‌کند؛ از مدل‌های متن‌باز روی سرور سازمان تا مدل‌های بزرگ تجاری، در حدی که سیاست سازمان اجازه می‌دهد.
  3. سابقهٔ کامل گفتگوها. هر گفتگو ذخیره می‌شود و می‌شود بعداً آن را جست‌وجو کرد یا ادامه داد.
  4. ثبت یافته‌ها و آموخته‌ها. وقتی گفتگویی به نتیجهٔ ارزشمندی رسید، همکار آن را به‌عنوان یافته ثبت می‌کند. این یافته‌ها به حافظهٔ سازمان اضافه می‌شوند و همکاران دیگر، با سطح دسترسی مناسب، از آن استفاده می‌کنند.
  5. اتصال به انبار داده. CHAI می‌تواند مستقیم از انبار دادهٔ سازمان جواب بدهد. به سؤالی مثل «فروش این فصل نسبت به پارسال چقدر تغییر کرده؟» با عدد واقعی پاسخ می‌دهد، نه با حدس.
  6. سیاست و ممیزی. مدیر سامانه تعیین می‌کند کدام مدل‌ها در دسترس‌اند، کدام داده اجازهٔ رفتن به کدام مدل را دارد و گفتگوها چقدر نگه داشته شوند. همهٔ درخواست‌ها هم ثبت می‌شوند.
محیط دستیار دادهٔ چهارگاه با فهرست گفتگوهای ذخیره‌شده در کنار صفحه و سؤال‌های پیشنهادی
گفتگوهای ذخیره‌شده در کنار صفحه؛ دانش هر گفتگو در سازمان می‌ماند. تصویر از دموی دستیار داده با داده‌های ساختگی.

حساب شخصی یا محیط مشترک؟

حساب شخصی ChatGPT و مشابه محیط مشترک CHAI
مالک حساب خود کارمند سازمان
محل داده سرور سرویس‌دهنده، در حساب شخصی سرور سازمان یا میزبانی امن، طبق سیاست سازمان
انتخاب مدل همان یک سرویس چند مدل، طبق سیاست سازمان
دسترسی به دادهٔ سازمان فقط فایلی که دستی بارگذاری شود اتصال مستقیم به انبار داده، با سطح دسترسی
سابقه و یافته‌ها در حساب شخصی؛ با رفتن فرد می‌رود در حافظهٔ سازمان می‌ماند و قابل اشتراک است
نظارت و ممیزی ندارد کامل

یک قدم عملی برای همین هفته

از چند همکار در واحدهای مختلف بپرسید برای چه کارهایی از ChatGPT یا ابزارهای مشابه استفاده می‌کنند و چه نوع داده‌ای را در آن می‌گذارند. فهرست این کاربردها نقطهٔ شروع خوبی برای طراحی محیط مشترک است. معمولاً نشان می‌دهد هوش مصنوعی خیلی بیشتر از آنچه مدیران فکر می‌کنند در سازمان جا افتاده است.

جمع‌بندی

هوش مصنوعی همین حالا وارد سازمان شما شده است؛ سؤال فقط این است که از در اصلی آمده یا از در پشتی. یک محیط مشترک هم داده را در سازمان نگه می‌دارد و هم دانشی را که همکاران هر روز با هوش مصنوعی می‌سازند، به دارایی سازمان تبدیل می‌کند. برای جزئیات گزینه‌های امنیتی، مقالهٔ امنیت داده در هوش مصنوعی سازمانی را بخوانید.

پرسش‌های پرتکرار

Shadow AI یا هوش مصنوعی پنهان یعنی چه؟

یعنی استفادهٔ کارکنان از ابزارهای هوش مصنوعی مثل ChatGPT با حساب شخصی و بیرون از نظارت سازمان. نیت معمولاً خوب است و کار سریع‌تر انجام می‌شود، ولی دادهٔ سازمان بیرون می‌رود و دانش تولیدشده در سازمان نمی‌ماند.

چرا استفاده از ChatGPT را ممنوع نکنیم؟

چون ممنوعیت معمولاً فقط استفاده را پنهان‌تر می‌کند. همکاران ابزار مفیدی پیدا کرده‌اند و از آن دست نمی‌کشند. راه بهتر، دادن محیطی است که هم امن‌تر باشد و هم به اندازهٔ حساب شخصی، یا بیشتر، به کار بیاید.

در CHAI می‌شود مدل زبانی را انتخاب کرد؟

بله. مدل‌های در دسترس را مدیر سامانه تعیین می‌کند؛ از مدل‌های متن‌باز روی سرور سازمان تا مدل‌های بزرگ تجاری. هر کاربر برای هر کار، مدل مناسب را از میان همین فهرست انتخاب می‌کند.

گفتگوهای همکاران را چه کسی می‌بیند؟

گفتگوی هر نفر به‌طور پیش‌فرض متعلق به خود اوست. یافته‌هایی که آگاهانه ثبت می‌کند، با سطح دسترسی تعریف‌شده در اختیار تیم یا سازمان قرار می‌گیرد. سیاست نگه‌داری و ممیزی را خود سازمان تعیین می‌کند.