- 2025-10-08
- 7 بازدید
- 0 دیدگاه
- هوش مصنوعی
هوش مصنوعی Sora اکنون کنترل بیشتری بر نسخه‌ی دیپ‌فیک شما در ویدیوها فراهم می‌کند
به اشتراک‌گذاری
هوش مصنوعی Sora اکنون به کاربران امکان می‌دهد تا کنترل بیشتری بر نسخه‌های دیپ‌فیک خود اعمال کنند و تعیین نمایند که این نسخه‌های دیپ‌فیک چگونه و در کجا درون برنامه ظاهر شوند. این به‌روزرسانی در زمانی منتشر شده که شرکت OpenAI با شتاب در تلاش است نشان دهد به نگرانی‌های کاربران خود بی‌توجه نیست، در حالی که موجی از محتوای بی‌کیفیت تولیدشده توسط هوش مصنوعی، اینترنت را تسخیر کرده است.
کنترل بیشتر بر نسخه‌های دیپ‌فیک در هوش مصنوعی Sora
این کنترل‌های تازه، بخشی از به‌روزرسانی‌های جدید هستند که با هدف پایدارسازی عملکرد Sora و مدیریت هرج‌ومرج در بخش محتوای آن ارائه شده است. Sora چیزی شبیه به «تیک‌تاک مخصوص دیپ‌فیک‌ها» است که بستری برای ساخت ویدیوهای 10 ثانیه‌ای از هر چیزی، از جمله نسخه‌های هوش مصنوعی خود کاربر یا دیگران، همراه با صدای مصنوعی فراهم می‌کند. OpenAI این نسخه‌های هوش مصنوعی را “Cameos” می‌نامد، در حالی که منتقدان از آن به‌عنوان فاجعه‌ای بالقوه در عرصه اطلاعات نادرست یاد می‌کنند.
بیل پیبلز، که هدایت تیم Sora در شرکت OpenAI را بر عهده دارد، اعلام کرده که کاربران اکنون قادرند نحوه استفاده از نسخه‌های هوش مصنوعی خود درون برنامه را محدود کنند. برای نمونه، می‌توان مانع از آن شد که نسخه مجازی فرد در ویدیوهایی با موضوعات سیاسی حضور یابد، یا از گفتن برخی واژه‌ها خودداری کند، یا اگر فردی از سس خردل متنفر است، نسخه هوش مصنوعی‌اش در هیچ محتوایی نزدیک آن ماده غذایی ظاهر نشود.
یکی از کارکنان OpenAI به نام توماس دیمسون نیز گفته است که کاربران می‌توانند برای همزادهای مجازی خود ترجیحات شخصی تعیین کنند، مثلاً اینکه نسخه هوش مصنوعی‌شان در تمامی ویدیوها کلاه لبه‌دار با نوشته “1Ketchup Fan#” بر سر داشته باشد.
گرچه این تدابیر امنیتی اقدامی مثبت تلقی می‌شود، اما سابقه ربات‌های مبتنی بر هوش مصنوعی مانند ChatGPT و Claude در ارائه توصیه‌هایی درباره ساخت مواد منفجره، جرایم سایبری یا سلاح‌های زیستی نشان می‌دهد که دیر یا زود، فردی راهی برای دور زدن این محدودیت‌ها پیدا خواهد کرد. کاربران پیش‌تر نیز یکی از قابلیت‌های ایمنی Sora یعنی واترمارک ضعیف آن را بی‌اثر کرده‌اند. پیبلز در همین زمینه اظهار کرده که شرکت در حال «کار روی بهبود این ویژگی» است.
به گفته پیبلز، Sora همچنان «در مسیر ارتقای تدریجی محدودیت‌ها و افزایش ایمنی حرکت خواهد کرد و در آینده روش‌های جدیدی برای حفظ کنترل کاربران» ارائه می‌دهد.
در طول تنها یک هفته از زمان عرضه، Sora به یکی از عوامل اصلی پر کردن فضای مجازی با محتوای تولیدی بی‌ارزش توسط هوش مصنوعی تبدیل شده است. کنترل‌های سست مربوط به کمئوها که تنها شامل گزینه‌های کلی مانند نمایش برای دوستان مشترک، افراد تأییدشده یا همه بود، از بزرگ‌ترین مشکلات محسوب می‌شد. ستاره ناخواسته این پلتفرم، کسی نبود جز مدیرعامل OpenAI، سم آلتمن، که در ویدیوهای متعدد تمسخرآمیز ظاهر شد؛ ویدیوهایی که او را در حال دزدی، خواندن رپ یا حتی کباب کردن یک پیکاچوی مرده به تصویر می‌کشیدند.
ارسال دیدگاه