در عصر هوش مصنوعی چگونه می‌توانیم به تصاویر اعتماد کنیم؟

در عصر هوش مصنوعی  که می‌توانید از آن بخواهید یک عکس موجود را به هر شکلی که می‌خواهید تغییر دهد یا حتی یک تصویر کاملاً مصنوعی ایجاد کند، آیا می‌توانیم دوباره به عکس‌ها اعتماد کنیم؟

اپل از جمله شرکت‌هایی است که در حال کار بر روی این مسئله هستند. بسیاری از ما امیدواریم که به یک استاندارد جدید برای اصالت محتوا بپیوندد.

این یک مشکل جدید نیست

اینکه آیا می‌توانیم به صحت یک عکس اعتماد کنیم، البته، مشکل جدیدی نیست. یک عکاس همیشه می‌توانسته دیدگاه ما از واقعیت را با انتخاب اینکه چه چیزی را در قاب قرار دهد یا حذف کند، تحت تأثیر قرار دهد.

انتخاب لنز آن‌ها می‌تواند همان دیدگاه را به روش‌های مختلف تحریف کند. به عنوان مثال، چیزها را نزدیک‌تر یا دورتر نشان دهد. تنظیم نوردهی می‌تواند چیزها را تاریک‌تر یا روشن‌تر کند. انتخاب فیلم یا فیلتر می‌تواند بر ادراک رنگ تأثیر بگذارد. یک نوردهی طولانی می‌تواند هر نشانه‌ای از عبور افراد از صحنه را حذف کند. و چیزهایی از این دست.

همچنین اتاق تاریک هم وجود داشت. تکنیک‌هایی مانند ماسکینگ، سوزاندن و داجینگ می‌توانستند ظاهر یک صحنه را به طور چشمگیری تغییر دهند. نرم‌افزار ویرایش عکس معمولی فقط دامنه تنظیماتی که می‌توان انجام داد را گسترش داد.

ویرایش و ایجاد عکس با هوش مصنوعی فقط اخیرترین مورد در یک صف طولانی از روش‌هایی است که عکس‌ها می‌توانند برای تأثیرگذاری بر ما یا حتی فریب دادن ما استفاده شوند.

اما در عصر هوش مصنوعی این مشکل حادتر شد

قبلاً، ویرایش عکس حداقل به مقداری مهارت نیاز داشت، بنابراین ایجاد یک تصویر فریبنده به شکلی قانع‌کننده چیزی نبود که هر کسی بتواند انجام دهد.

اکنون، هر کسی می‌تواند این کار را انجام دهد، و آن هم در عرض چند ثانیه. تصویر جعلی بالا البته عمداً بدون جنجال است، اما به همان سادگی می‌توانست چیزی باشد که کسی یا چیزی را در نوری بسیار ناخوشایند نشان دهد. کل فرآیند بارگذاری یک عکس مرجع در فتوشاپ، ایجاد یک متن درخواست و انتظار برای نتیجه حدود 30 ثانیه طول کشید.

وقتی هر کسی می‌تواند این کار را در عرض چند ثانیه انجام دهد و نتایج هر روز واقعی‌تر می‌شوند، این می‌تواند مشکلات بزرگی برای آینده ایجاد کند.

اپل به دو روش با این مشکل روبرو می‌شود

با انتشار تدریجی Apple Intelligence، این شرکت ممکن بود مشکل حادتر شود، زیرا ابزارهای ایجاد تصویر با هوش مصنوعی را در دسترس میلیون‌ها نفر دیگر قرار می‌دهد. اما این شرکت به خوبی از خطرات آگاه است و دو اقدام احتیاطی را اتخاذ کرده است.

اول، Image Playground – که به صاحبان آیفون اجازه می‌دهد تصاویر کاملاً خیالی از توضیحات متنی ایجاد کنند – عمداً نتایج واقع‌گرایانه را حذف می‌کند.

Image Playground از سه سبک پشتیبانی می‌کند: انیمیشن، تصویرسازی، طرح […] قابل توجه است که همه تصاویر نمایش داده شده برای Image Playground به سبک انیمیشن یا غیرواقعی هستند. به وضوح، اپل نمی‌خواهد ابزارهایی برای ایجاد عکس‌های جعلی واقع‌گرایانه ارائه دهد.

دوم، هنگامی که از ابزارهای هوش مصنوعی برای دستکاری عکس‌های واقعی استفاده می‌کنید، اپل این واقعیت را برچسب‌گذاری می‌کند. این چیزی است که کریگ فدریگی در مصاحبه خود با WSJ درباره آن صحبت کرد.

تاریخچه بزرگی در عکاسی وجود دارد و مردم محتوای عکاسی را به عنوان چیزی که می‌توانند به آن اعتماد کنند، به عنوان نشانگر واقعیت می‌بینند. محصولات ما، تلفن‌های ما، زیاد استفاده می‌شوند و برای ما مهم است که به ارائه اطلاعات دقیق و نه تخیلی کمک کنیم.

ما مطمئن می‌شویم حتی اگر جزئیات کوچکی از یک عکس را حذف کنید [مانند یک بطری آب]، متادیتای عکس را به‌روزرسانی کنیم تا هر فرد بتواند برگردد و بررسی کند که این یک عکس تغییر یافته بوده است.

ابتکار اصالت محتوا

تا کنون، اپل با به‌روزرسانی‌های متادیتا به راه خود ادامه داده است، اما رویکرد اساسی توسط بسیاری از شرکت‌ها و سازمان‌های خبری از طریق چیزی به نام ابتکار اصالت محتوا (CAI) پشتیبانی می‌شود.

ایده این است که در عصر هوش مصنوعی، اطمینان حاصل شود که هرگونه ایجاد و ویرایش AI در متادیتای تصویر به صورت استاندارد منعکس شده و قابل تشخیص و علامت‌گذاری باشد.

اعتبار محتوایی به شما کمک می‌کند تا مهم‌ترین جزئیات مربوط به یک قطعه محتوا را در هر مرحله از چرخه عمر آن ثبت و نمایش دهید.

ایجاد: نمایش ابزارهای هوش مصنوعی پشتیبانی‌کننده، نرم‌افزارها، دوربین‌های دیجیتال و سایر دستگاه‌های مورد استفاده در ایجاد محتوا.

ویرایش و تولید هوش مصنوعی: هر تغییری می‌تواند ثبت شود — برش، افزودن و حذف، اصلاحات هوش مصنوعی و بیشتر.

انتشار: مصرف‌کنندگان می‌توانند به راحتی به ایجاد اعتبار محتوایی و تاریخچه ویرایش دسترسی پیدا کنند.

این استاندارد منبع باز است، به این معنی که هر کسی می‌تواند آن را بپذیرد، بنابراین شانس خوبی برای تبدیل شدن به یک استاندارد صنعتی دارد. بدیهی است که اگر اپل اطمینان حاصل کند که ویرایش‌های متادیتای آن با این استاندارد مطابقت دارند، مفید خواهد بود.

با تمام این اوصاف به نظر شما آیا در عصر هوش مصنوعی می‌توانیم به تصاویر اعتماد کنیم؟

منبع خبر