ویژگی های اپل واچ سری 8
تمامی حقوق مادی و معنوی مطالب منتشر شده در سایت لاووکادو متعلق به صاحبان آن است و هرگونه کپیبرداری بدون مجوز قابل پیگیری است.
فریب نخورید! چگونه فیلم‌های ساخته‌شده با هوش مصنوعی را تشخیص دهیم
- تیم لاووکادو
- 6 نظر
- زمان تقریبی مطالعه: 3 دقیقه
با سرعت سرسام‌آور پیشرفت هوش مصنوعیِ مولد، تشخیص اینکه آیا چیزی که به‌صورت آنلاین می‌بینید واقعی یا ساخته‌شده است، به‌طور فزاینده‌ای دشوار می‌شود. و این فقط تصاویر ثابت نیست که باید نگرانشان باشیم. فیلم‌های ساخته‌شده با هوش مصنوعی نیز در حال افزایش هستند و با ظهور قریب‌الوقوع ابزار تبدیل متن به ویدیوی سُورا (Sora) از OpenAI، تشخیص واقعیت از داستان‌های ساخته‌شده با هوش مصنوعی به‌زودی می‌تواند سخت‌تر از همیشه شود.
بنابراین دقیقاً چگونه ویدیوهای ساخته‌شده توسط Sora و سایر هوش‌های مصنوعی را تشخیص می‌دهید؟ در حال حاضر، ابزارهای تشخیص با کمک نرم‌افزار برای ویدیوهای ساخته‌شده با هوش مصنوعی بسیار کمیاب هستند (مگر اینکه فقط روی «دیپ‌فِیک‌ها» با یک چهره قابل مشاهده تمرکز کنید)، بنابراین فعلاً باید به جای یک ربات به خودتان اعتماد کنید.
برای اینکه به شما در تقویت مهارت‌هایتان و یادگیری نکاتی که باید به آن‌ها توجه کنید کمک کنیم، نمونه‌های ویدیویی Sora را از OpenAI جمع‌آوری کرده‌ایم (از جمله چند نمونه که همراه با مقاله تحقیقاتی شرکت با عنوان «مدل‌های تولید ویدیو به‌عنوان شبیه‌سازهای جهان» ارائه شده‌است). با استفاده از این نمونه‌ها به‌عنوان مثال، برخی از نشانه‌های آشکار مبنی بر اینکه یک ویدیو ممکن است با هوش مصنوعی ساخته شده باشد را به شما نشان می‌دهیم. در اینجا نکاتی که باید به دنبال آن‌ها باشید، آورده شده است:
به‌دنبال صحنه‌های غیرطبیعی بگردید
مگر اینکه در حال تماشای فیلم «Inception» باشید، اکثر چیزهای فیلم‌برداری‌شده قوانین فیزیک را دنبال میکنند. این قانون در مورد سُورا صدق نمی‌کند. OpenAI در مقاله خود در مورد محدودیت‌های سُورا به‌عنوان یک شبیه‌ساز صحبت می‌کند و می‌گوید: «برای مثال، این ابزار به‌طور دقیق فیزیک بسیاری از تعاملات اولیه، مانند شکستن شیشه را مدل‌سازی نمی‌کند.»
اینجا ویدیویی وجود دارد که سناریوی مشابهی را نشان می‌دهد. یک لیوان بدون هیچ دلیل ظاهری در هوا می‌پرد و مایع از شیشه جامد عبور می‌کند که خود شیشه هنگام ضربه به میز حل می‌شود.
هنگام تلاش برای تعیین اینکه آیا یک ویدیو توسط هوش مصنوعی ساخته شده است، باید تمام پدیده‌های موجود در آن را به‌دقت مشاهده کنید، خواه این پدیده‌ها، عمل اصلی ویدیو باشد یا چیزی که در پس‌زمینه اتفاق می‌افتد.
همچنین، هنگام تماشا احساسات خود را بسنجید. زمانی که رفتار اشیا با چیزی که باید متفاوت باشد، اغلب برای ما انسان‌ها ناراحت‌کننده است – پدیده‌ای که به عنوان «دره عجیب» شناخته می‌شود. بنابراین به حس درونی خود اعتماد کنید. اگر چیزی کمی عجیب به نظر می‌رسد، حتی اگر نمی‌توانید دقیقاً انگشت خود را روی آن بگذارید، آن را نشانه‌ای در نظر بگیرید که ویدیو نیاز به بررسی دقیق‌تری دارد.
حالات غیر واقعی
در دنیای واقعی، با گاز زدن به یک سیب، قسمتی از آن ناپدید می‌شود. این لزوما نحوه‌ی کارکردن در دنیای سُورا نیست. OpenAI اشاره می‌کند که «تعاملاتی مانند خوردن غذا، همیشه منجر به تغییرات صحیح در وضعیت اشیا نمی‌شوند.»
بنابراین، در حالی که برای تشخیص اینکه آیا چیزی با هوش مصنوعی ساخته شده است، باید روی اعمال نظارت داشته باشید، به همان اندازه هم مهم است که واکنش‌ها، به ویژه روی اشیاء جامد را ردیابی کنید.
در ویدیوی بالا اتفاقات زیادی می‌افتد، اما جایی که مرد در برف راه می‌رود، ردپای موجودی را پشت سرش می‌بینید. با راه رفتن او، هیچ ردپای جدیدی ایجاد نمی‌شود. همچنین، کلاه فضایی‌ها در این ویدیو کاملاً پوشیده از نخ است.
توالی بی‌معنی
با دقت زیاد به ویدیویی که توسط هوش مصنوعی ساخته شده است دقت کنید، احتمالاً متوجه ناسازگاری‌هایی خواهید شد. ممکن است این ناسازگاری‌ها کاملاً آشکار باشند یا فقط چیزی باشند که ذهن شما را درگیر کند. اگر مورد دوم است، جایی را که احساس می‌کنید چیزی اشتباه است را یادداشت کنید و دوباره با دقت آن را تماشا کنید.
در ویدیوی بالا، دستی در حال نقاشی یک درخت شکوفه گیلاس است. در حالی که نقاشی با ضربات قلم‌مو توسعه می‌یابد، لحظاتی وجود دارد که رنگ روی قلم‌مو تغییر می‌کند، در حالی که قلم‌مو هرگز از روی بوم بلند نمی‌شود.
به دنبال المان‌های آشنا باشید
در مصاحبه‌ای با «جوانا استرن» از وال استریت ژورنال، مدیر ارشد فناوری OpenAI، «میرا موراتی» بارها از گفتن اینکه سُورا با چه چیزی آموزش داده شده است، فراتر از «داده‌های مجاز و در دسترس عموم» خودداری کرد. صرف‌نظر از پیامدهای اخلاقی و حقوقی بالقوه‌ی این موضوع، به این معنی است که شما می‌توانید برای اینکه ببینید یک ویدیو واقعی است یا نه، سعی کنید مهندسی معکوس انجام دهید.
«نیک سنت پیر»، مدیر خلاق و طرفدار Midjourney، احساسی را که در مورد منابع کار سُورا داشت، دنبال کرد. او با الهام از ویدیوهای سُورا که دیده بود، متن‌هایی (prompt) تهیه کرد و آن‌ها را از طریق Midjourney برای تولید تصاویر ثابت هوش مصنوعی وارد کرد. مطمئناً، او بیش از دوازده مثال پیدا کرد که در آن‌ها ویدیوهای سُورا چیزی فراتر از تصاویر متحرک Midjourney نیستند.
اگر می‌خواهید هنگام ارزیابی یک ویدیو، فراتر از حواس خود عمل کنید، متن‌هایی را که فکر می‌کنید برای ایجاد آن‌ها لازم بوده است، تهیه کنید و آن‌ها را از طریق یک یا دو ابزار تولید متن به تصویر وارد کنید. ببینید چقدر شبیه هم هستند. همچنین، متن را در گوگل جستجو کنید تا منابعی را که ممکن است برای ساخت ویدیو استفاده شده باشد، پیدا کنید.
هوشیار باشید!
هوش مصنوعی تبدیل متن به ویدیو هنوز در مراحل ابتدایی خود قرار دارد و از آنجایی که این فناوری دائماً در حال پیشرفت است، بهترین راه برای جلوگیری از فریب خوردن، همگام شدن با آن است. با پیشرفت هوش مصنوعی و تولید ویدیوهای به طور فزاینده‌ای واقع‌گرایانه، برای اینکه به‌طور مؤثر آن‌ها را تشخیص دهیم، نیاز به استفاده از ابزارها و تکنیک‌های جدید داریم. بنابراین فعلاً راحت نباشید! مراقب ابزارهای تشخیص جدید و سیستم‌های تأیید صحت باشید و مطمئن شوید که به صورت دوره‌ای این مقاله را بررسی کنید—ما آن را با ظهور ابزارهای جدید به‌روزرسانی خواهیم کرد.
منبع: PCmag
پست‌های لاووکادو دستمایه‌ی مشورت تیمی تیم نویسندگان لاووکادو است. این پست‌ها با تحقیقات و مشاوره‌های متنوعی انتخاب و نوشته می‌شوند و سعی ما این است که بهترین‌های بازار انتخاب و به شما معرفی شوند.
6 دیدگاه در “فریب نخورید! چگونه فیلم‌های ساخته‌شده با هوش مصنوعی را تشخیص دهیم”
این مدل از هوش مصنوعی داره لذت تلویزیون دیدن رو از من میگیره ، اصلا ازش راضی نیستم و حس خوبی بهم نمیده
ممنونم بابت اطلاعاتتان
درود.سپاس از همراهی شما
سلام جالب بوداستفاده کردم لطفا ادامه دارباشد.
درودبرانسان های نیک اندیش
درود. خوشحالیم که مورد پسند شما بود.سپاس از حسن نظر شما
سلام دوست عزیز با یک پیج آگاه کننده مثلا یه اختلاف نظر پیدا کردیم درمورد یه ویدیو که من میگم و مطمئن هستم ساخت هوش مصنوعی هستش ولی اون میگه نه این ویدیو واقعی هستش حالا هم شرط گذاشته به مبلغ ده میلیاد تومن که ثابت کنم این ویدیو ساخته هوش مصنوعی هست وگرنه باید بهش ده میلیارد بدم.
دوست عزیز اگه راهی هست که ثابت کنم این ویدیو ساخته هوش مصنوعی هستش بامن همکاری کنید چون این آقا خیلی به خودش و کاراش پز الکی میده.
دوست گرامی سلام. متاسفانه تشخیص اینکه یک ویدیو با هوش مصنوعی ساخته شده یا خیر ، هر روز سخت تر میشه. اما خوشبختانه هنوز ابزارهای ساخت این ویدیوها بسیار کمیاب و کمتر در دسترس هستند. به هر صورت هنوز هم با کمی دقت میشه به باگهایی در ویدیو پی برد مثل توصیه هایی که در این مقاله داشتیم و فعلا این تنها راه حل شماست. این موضوع یک دغدغه جهانی هست و کم کم به قانون تبدیل میشه که این نوع ابزار در دسترس عموم قرار نگیرند و در ابزارهای در دسترس هم حتما خطاهایی در ویدیو نهفته باشه. در مورد دیپ فیک ها و استفاده غیر مجاز از چهره افراد و یا ساخت محتوای مستهجن با چهره افراد هم سایتهایی هستند که به درخواست شما و به رایگان ،اون محتوا رو از سطح اینترنت حذف میکنند.