prompt injection

حمله‌ای که با قراردادن دستور در محتوای ورودی یا خروجی ابزار، تلاش می‌کند model را از دستورهای اصلی منحرف کند.

این تعریف را هوش مصنوعی از روی مطالب فیدآپ نوشته است.

مطالبی با این مفهوم

  1. BotPsy

    BotPsy؛ دستیار ۰٫۸ میلیاردی برای اجرای محلی کارها با ابزار

    Tether AI Research مدل BotPsy را بر پایه Qwen3.5-0.8B معرفی کرد. این مدل برای function calling و کارهای agentic روی دستگاه طراحی شده و طبق آزمون‌های تیم، از مدل‌های آزمایش‌شده تا ۱٫۲ میلیارد parameter پیش افتاده است.

    یادگیری: ۵ مفهومافزوده‌شده huggingface.co

  2. n8n

    Gemini 4 Carbon در n8n؛ تمرکز بر امنیت و کارهای چندمرحله‌ای

    Gemini 4 Carbon در n8n در دسترس است. این مدل بنا بر نتایج منتشرشده توسط Google،؜ بر کارهای طولانی، امنیت و مقاومت در برابر prompt injection تمرکز دارد؛ بااین‌حال، همچنان به تدابیر امنیتی نیاز است.

    یادگیری: ۵ مفهومافزوده‌شده blog.n8n.io