معامله تازه سازمان‌ها با هوش مصنوعی؛ مدل قوی‌تر، کنترل کمتر

به گزارش پیوست، اثر این اختلاف از سیاست‌های داخلی شرکت‌ها فراتر رفته است. مایکروسافت استفاده داخلی از Claude Fable 5 را به‌دلیل نگرانی درباره نگهداری داده محدود کرده و OpenAI نیز ۲۸ مرداد از ادامه عرضه مدل‌های پیشرفته با ZDR برای مشتریان واجد شرایط خبر داده است. در سوی دیگر، Anthropic همچنان نگهداری ۳۰ روزه داده را برای مدل‌های Fable 5 و Mythos 5 لازم می‌داند. هرچند این شرکت در حال حرکت به سمت گزینه‌هایی است که محل نگهداری داده را بیشتر در اختیار مشتری سازمانی قرار دهد.

چرا ایمنی به حافظه نیاز دارد؟

همه سوءاستفاده‌ها در یک پرامپت یا درخواست دیده نمی‌شود. مهاجم می‌تواند بارها شکل یک درخواست را عوض کند، حمله را میان چند حساب تقسیم کند یا قدم‌به‌قدم در یک کار طولانی از محدودیت‌ها عبور کند. برای دیدن این الگوها، سیستم ایمنی باید بتواند چند تعامل را کنار هم بگذارد.

Anthropic همین استدلال را مبنای سیاست Fable 5 و Mythos 5 قرار داده است. داده این مدل‌ها ۳۰ روز نگه داشته می‌شود تا حملات پیچیده و تلاش برای دور زدن محدودیت‌ها بهتر شناسایی شود. شرکت می‌گوید این داده برای آموزش مدل استفاده نمی‌شود و دسترسی انسانی به آن محدود و ثبت‌شده است.

در بازار سازمانی سه مفهوم معمولا با هم قاطی می‌شوند. استفاده نکردن از داده برای آموزش، نگه نداشتن داده و نداشتن دسترسی انسانی. در حقیقت این سه یک موضوع نیستند. داده می‌تواند برای آموزش استفاده نشود اما برای امنیت ذخیره شود؛ می‌تواند ذخیره شود اما کارکنان ارائه‌دهنده نتوانند آن را بخوانند. همچنین می‌تواند روی فضای ابری مشتری بماند و فقط نتیجه بررسی ایمنی از محیط خارج شود.

مسئله چگونه دیدن است

OpenAI برای مشتریان واجد شرایط API تعهد ZDR را حفظ کرده است. به این معنی که متن درخواست و پاسخ پس از پردازش نزد OpenAI نگه داشته نمی‌شود و کارکنان شرکت به محتوای مشتری دسترسی ندارند، مگر در موارد محدود قانونی و ایمنی.

اما حذف کامل سابقه یک مشکل دارد و حمله‌ای که در چند مرحله ساخته می‌شود سخت‌تر دیده می‌شود. OpenAI برای پر کردن این شکاف، «پردازش خصوصی ایمنی» یا Private Safety Processing را آزمایش می‌کند. در این طرح، محتوای مشتری می‌تواند روی زیرساخت خود او بماند. اگر هم روی زیرساخت OpenAI ذخیره شود، با کلیدی رمز می‌شود که در کنترل مشتری است و OpenAI نسخه‌ای از آن ندارد. سامانه خودکار الگوی خطر را بررسی می‌کند و فقط یک سیگنال محدود برای تصمیم ایمنی می‌فرستد، نه متن کامل درخواست‌ها را.

این راهکار هنوز محصول عمومی تثبیت‌شده نیست. OpenAI آن را با مشتریان اولیه آزمایش می‌کند و اعلام کرده است که عرضه تدریجی و انتشار جزئیات فنی را از سپتامبر شروع می‌کند. بنابراین مقایسه کاملا متقارن نیست. یک طرف، سیاست اجرایی ۳۰ روزه Anthropic است و طرف دیگر، ZDR موجود OpenAI به‌علاوه راهکاری که هنوز در حال آزمایش است.

وقتی سیاست داده مدل قوی‌تر را کنار می‌زند

در سازمان‌ها این بحث روی کاغذ نمانده است. به نقل از The Verge، مایکروسافت استفاده داخلی از Claude Fable 5 را به‌دلیل نگرانی درباره نگهداری داده محدود کرده است. یعنی حتی اگر یک مدل از نظر فنی بهترین گزینه باشد، ممکن است از فهرست ابزارهای مجاز یک سازمان حذف شود.

برای بانک، شرکت سلامت، نهاد دولتی یا هر کسب‌وکاری که داده محرمانه دارد، خرید مدل فقط مقایسه قیمت و عملکرد نیست. باید پرسید داده چه مدت نگه داشته می‌شود، کجا ذخیره می‌شود، چه کسی می‌تواند آن را ببیند و در صورت تشخیص سوءاستفاده چه چیزی از محیط سازمان خارج می‌شود.

Anthropic هم در حال تغییر زمین بازی است

اما ماجرا به این دوگانه ساده که Anthropic داده را نگه می‌دارد و OpenAI داده را نگه نمی‌دارد، ختم نمی‌شود. رویترز ۲۹ مرداد گزارش داد Anthropic قصد دارد برای مشتریان سازمانی کنترل بیشتری ایجاد کند. به این صورت که الزام نگهداری ۳۰ روزه باقی بماند، اما داده بتواند روی زیرساخت ابری خود مشتری ذخیره شود. هرچند این تغییر هنوز در سیاست رسمی نهایی نشده است.

اگر این مسیر عملی شود، سوال مهم‌تر این خواهد بود که داده کجا می‌ماند، کلید دست چه کسی است و ارائه‌دهنده واقعا چه چیزی را می‌تواند ببیند.

بهترین مدل، مدلی است که بتوان استفاده کرد

رقابت مدل‌های پیشرفته هوش مصنوعی وارد مرحله‌ای شده که معیارهای فنی به‌تنهایی کافی نیستند. سازمان‌ها باید بدانند برای ایمن نگه‌ داشتن مدل چه داده‌ای لازم است، این داده کجا می‌ماند و چه کسی به آن دسترسی دارد.

اگر OpenAI بتواند پردازش خصوصی ایمنی را در مقیاس واقعی اجرا کند، ZDR می‌تواند از یک بند قراردادی به مزیت محصول تبدیل شود. اگر Anthropic هم بتواند نیاز ۳۰ روزه خود برای ایمنی را با ذخیره‌سازی تحت کنترل مشتری ترکیب کند، مسیر متفاوتی برای همان مسئله خواهد ساخت.

برای خریدار سازمانی نتیجه ساده‌تر است؛ اینکه قوی‌ترین مدل الزاما بهترین انتخاب نیست. بهترین مدل، مدلی است که علاوه بر توانایی از آزمون امنیت، قرارداد و کنترل داده هم عبور کند.