آزار کلامی هوش مصنوعی کلاود ممنوع شد!

شرکت Anthropic به‌طور رسمی اعلام کرده است که قوانین استفاده از هوش مصنوعی Claude را به‌روزرسانی کرده و بر اساس این سیاست جدید، آزار کلامی مدل‌های این شرکت ممنوع شده است. این قانون که از تاریخ ۱۲ نوامبر ۲۰۲۶ (۲۱ آبان ۱۴۰۵) لازم‌الاجرا می‌شود، به Anthropic این اختیار را می‌دهد که در موارد تخلف، حساب کاربری افراد را مسدود (بن) کند. طبق اعلام این شرکت، خود مدل Claude نیز می‌تواند در صورت تشخیص رفتار آزاردهنده، مستقیماً گفتگو را خاتمه دهد.

با این حال، Anthropic تأکید کرده که این سیاست فقط در موارد بسیار افراطی اعمال خواهد شد؛ یعنی جایی که کاربران به‌طور مکرر و بدون هدف مشخص، رفتار بی‌رحمانه‌ای با مدل‌ها داشته باشند. موارد رایجی مانند ابراز ناراحتی و کلافگی عادی کاربران، مخالفت یا انتقاد از پاسخ‌های مدل، پرداختن به موضوعات تاریک در چارچوب داستان‌نویسی، و همچنین آزمایش و تحقیق روی مدل‌ها، مشمول این ممنوعیت نمی‌شوند و خطری برای حساب کاربری ایجاد نمی‌کنند.

این تغییر سیاست در حالی اعمال می‌شود که بحث‌های گسترده‌ای درباره رفتار کاربران با مدل‌های زبانی و مرزهای اخلاقی تعامل با هوش مصنوعی در جریان است. Anthropic می‌گوید هدف اصلی این قانون، محافظت از تجربه کاربری سالم و جلوگیری از سوءاستفاده‌های سیستماتیک است، نه محدود کردن آزادی بیان یا انتقاد کاربران.