Sidekick چطور مرز تصمیم‌گیری مستقل AI و اجازه گرفتن را بازطراحی کرد؟

چرا مهم است

اگر محصولی می‌سازی که AI در آن اقدام می‌کند، تعداد سؤال‌ها تنها مسئله نیست. تجربه Sidekick نشان می‌دهد باید روشن کنی چه چیزی محافظت می‌شود و درخواست تأیید کجا و با چه اطلاعاتی دیده می‌شود.

قبل از خواندن، این‌ها را بدان۳ مفهوم
agent

سیستمی مبتنی بر AI که برای انجام یک کار می‌تواند اقدام انتخاب کند و از tool استفاده کند.

بیشتر درباره این مفهوم

permission

اجازه‌ای که مشخص می‌کند یک کاربر یا برنامه چه اقدامی را روی چه منبعی می‌تواند انجام دهد.

بیشتر درباره این مفهوم

tool

قابلیتی قابل فراخوانی که به AI امکان انجام کاری مانند خواندن فایل، ویرایش سند یا ارسال پیام می‌دهد.

بیشتر درباره این مفهوم

وقتی یک محصول AI فقط پاسخ نمی‌دهد و کاری هم انجام می‌دهد، باید مشخص باشد کدام تصمیم را مستقل می‌گیرد و کجا اجازه می‌خواهد. Zapier در روایت توسعه Sidekick،؜ فضای کاری AI خود، توضیح می‌دهد چرا دو سر این طیف مشکل دارند: سؤال‌های پی‌درپی به تأیید بی‌توجه تبدیل می‌شوند و اقدام بدون اجازه هم ممکن است با یک اتفاق غیرمنتظره اعتماد را از بین ببرد.

در نسخه نخست، agent برای خواندن اطلاعات مستقل عمل می‌کرد، اما کارهایی مثل نوشتن، ویرایش یا حذف را برای تأیید متوقف می‌کرد. درخواست‌ها ابتدا فقط در پنجره باز مرورگر وجود داشتند و انتخاب «Always» با refresh فراموش می‌شد. Zapier تأییدها را روی server ذخیره کرد. درخواست‌های تکراری پس از شکست عملیات، پنهان‌شدن آن‌ها در بخش‌های بسته گفتگو و متن مبهم دکمه‌ها هم از مشکلات این مرحله بودند.

مسئله عمیق‌تر، وجود دو سیستم جداگانه برای permission بود: یکی برای قابلیت‌های داخلی و دیگری برای برنامه‌های کوچکی که Sidekick برای کار با app‌ها می‌نوشت و اجرا می‌کرد. قواعد نیز به tool وابسته بودند؛ درحالی‌که دغدغه کاربر محافظت از یک پوشه، سند یا حساب Slack بود.

در بازطراحی بعدی، قاعده به منبع محافظت‌شده متصل شد: فایل، app متصل، وب‌سایت یا automation. حالا محدودیتی مثل «هیچ‌چیز این پوشه را تغییر نده» مستقل از روش اقدام Sidekick اعمال می‌شود. ترتیب تصمیم هم روشن است: اگر هر قاعده‌ای منع کند، اقدام متوقف می‌شود؛ در غیر این صورت، قاعده «اول بپرس» درخواست تأیید ایجاد می‌کند. تنها وقتی هیچ‌کدام مانع نباشند، اقدام بدون سؤال انجام می‌شود. همچنین agent نمی‌تواند مجوز کلی اجرای تمام code را پیشنهاد کند.

مرحله بعد، قابل‌فهم‌کردن درخواست‌ها بود. نمایش JSON خام قواعد جای خود را به ردیف‌های خوانا با وضعیت Allow،؜ Ask first یا Deny،؜ محدوده و شرط داد. نام حساب‌ها جای شناسه اتصال را گرفت و محدوده واقعی زیر برچسب توضیحی agent باقی ماند. تنظیم permission نیز به یک گفتگوی جانبی منتقل شد تا گفتگوی اصلی را متوقف نکند.

در نهایت، درخواست تأیید، سؤال‌ها و برنامه‌های پیشنهادی از میان پیام‌های chat به panel کنار محل نوشتن منتقل شدند. این panel بیرون از chat،؜ مثلاً هنگام ویرایش سند، هم کار می‌کند و وقتی چیزی نیازمند بررسی باشد باز می‌شود. تأییدهای منتظر نیز در inbox قابل‌دسترسی از سراسر Sidekick نمایش داده می‌شوند.

نکته کلیدی

قاعده را به منبعی که محافظت می‌کنی وصل کن، نه فقط به tool اجراکننده. در درخواست تأیید هم محدوده واقعی اجازه را نشان بده؛ در Sidekick،؜ برچسب توضیحی agent جای نمایش این محدوده را نمی‌گیرد.

خواندن مقاله اصلی (در زبانه‌ی جدید باز می‌شود)
برچسب‌ها (۳)