Jailbreak در هوش مصنوعی یعنی چه و چرا هیچ‌وقت صددرصد حل نمی‌شود؟

یعنی فریب دادن مدل با نقش‌بازی، سناریوی خیالی یا جمله‌بندی زیرکانه تا قوانین ایمنی‌اش را دور بزند. چون زبان بی‌نهایت راه برای گفتن یک چیز دارد، نمی‌شود همه را از قبل بست؛ این یک مسابقه دائمی بین مهاجم و مدافع است. برای همین در محصول واقعی، فقط به «مدل خودش رد می‌کند» تکیه نکنید و کنترل‌های بیرونی هم بگذارید.