OpenAI اعلام کرد متن تولیدشده با ChatGPT و Codex در اتحادیه اروپا به‌زودی به واترمارکی نامرئی مجهز می‌شود تا امکان شناسایی محتوای تولیدشده با هوش مصنوعی برای سامانه‌های تشخیص فراهم شود.
همشهری آنلاین، فرخنده رفائی: با اجرایی شدن قوانین جدید اتحادیه اروپا برای شفاف‌تر شدن محتوای تولیدشده با هوش مصنوعی، شرکت‌های فناوری باید راهی برای قابل‌شناسایی کردن این محتوا پیدا کنند. OpenAI نیز در همین چارچوب تصمیم گرفته است واترمارک‌گذاری متن‌های ChatGPT را آغاز کند.
به گزارش تک‌کرانچ، اوپن‌ای‌آی قصد دارد طی هفته‌های آینده واترمارک متنی را برای کاربران واجد شرایط ChatGPT و Codex در اتحادیه اروپا فعال کند. این اقدام در راستای قوانین شفافیت «قانون هوش مصنوعی اتحادیه اروپا» انجام می‌شود که شرکت‌های فعال در حوزه هوش مصنوعی را ملزم می‌کند محتوای تولیدشده توسط سامانه‌های هوش مصنوعی را به شکلی قابل شناسایی علامت‌گذاری کنند.
واترمارک جدید اوپن‌ای‌آی یک نشانه قابل مشاهده نیست، بلکه با تغییرات بسیار ظریف در انتخاب کلمات ایجاد می‌شود. این واترمارک برخلاف نشانه‌های معمول، هیچ علامت یا عبارت قابل مشاهده‌ای به متن اضافه نمی‌کند و در خود کلمات پنهان می‌شود. اوپن‌ای‌آی می‌گوید این فناوری می‌تواند هنگام کپی و انتقال متن نیز همراه آن باقی بماند، اما تغییر دادن بخشی از نوشته ممکن است توانایی سامانه برای شناسایی منشأ آن را کاهش دهد.
سازوکار این واترمارک به این شکل است که مدل هنگام تولید متن، از میان گزینه‌های مختلف برای کلمه بعدی الگوهایی را انتخاب می‌کند که برای خواننده عادی قابل تشخیص نیستند، اما یک سامانه تشخیص با استفاده از کلید مخصوص می‌تواند این الگوها را شناسایی کند.
اوپن‌ای‌آی این روش را textGrain نامیده و همزمان با معرفی آن، یک گزارش فنی نیز منتشر کرده است. این فناوری با همکاری پژوهشگرانی از دانشگاه پنسیلوانیا و دانشگاه ییل توسعه یافته است. از آنجا که واترمارک در خود متن قرار دارد، هنگام کپی و چسباندن نوشته نیز همراه آن منتقل می‌شود.
بیشتر بخوانید:
- درخواست عجیب مدیرعامل آنتروپیک از غول‌های فناوری | ترمز هوش مصنوعی را بکشید!
- آلتمن: باید بعضی پیامدهای منفی هوش مصنوعی را پذیرفت
- عضو هیئت‌مدیره «اوپن‌ای آی»: برای کنترل هوش مصنوعی آماده نیستیم
البته این فناوری کاملا غیرقابل دور زدن نیست. آزمایش‌های اوپن‌ای‌آی نشان داده‌اند که جایگزین کردن حدود ۱۰ درصد کلمات متن با مترادف‌ها می‌تواند میزان موفقیت تشخیص را از حدود ۹۲ درصد به ۶۶ درصد کاهش دهد. متن‌های کوتاه، پاسخ‌های ریاضی و متن‌های ترجمه‌شده نیز از جمله مواردی هستند که شناسایی واترمارک در آنها دشوارتر است.
اوپن‌ای‌آی تأکید کرده است که وجود یا نبود واترمارک به‌تنهایی نمی‌تواند ثابت کند متنی توسط انسان نوشته شده است. برای مثال، ممکن است متن بیش از حد کوتاه یا ویرایش‌شده باشد یا اساسا توسط یک هوش مصنوعی دیگر تولید شده باشد. همچنین این واترمارک هویت کاربر را مشخص نمی‌کند.
در مرحله نخست، دسترسی به ابزار تشخیص واترمارک تنها در اختیار پژوهشگران تأییدشده و سازمان‌های متخصص قرار می‌گیرد تا میزان دقت و کاربردهای مسئولانه آن بررسی شود. توسعه‌دهندگان API نیز در سراسر جهان می‌توانند از امروز این قابلیت را برای برخی مدل‌های اوپن‌ای‌آی فعال کنند، اما این گزینه به‌صورت پیش‌فرض خاموش خواهد بود.
شرکت اوپن‌ای‌آی پیش‌تر نیز فناوری واترمارک متنی را توسعه داده بود، اما به‌دلیل نگرانی از مهاجرت کاربران به سرویس‌های رقیب، از عرضه آن خودداری کرده بود. اکنون این شرکت تصمیم گرفته است اجرای آن را ابتدا در اتحادیه اروپا آغاز کند؛ اقدامی که پس از تصمیم مشابه آنتروپیک برای واترمارک‌گذاری متن‌های تولیدشده با کلاود در سراسر جهان انجام می‌شود.
کد خبر 1074622 منبع: همشهری آنلاین
-
اگر گوشی‌تان اندروید ۱۷ ندارد، این قابلیت‌های گوگل‌بوک را از دست می‌دهید
-
از نخ کردن سوزن تا گلدوزی | یک روبات ظریف‌ترین هنر سنتی چین را یاد گرفت
-
نوبل فیزیک برای پیام‌های شبح‌وار از فضا
-
یک گام تا هوش مصنوعی ذهن‌خوان | دانشمندان امواج مغزی را برای AI رمزگشایی کردند
-
۶۰ همت تسهیلات برای بازسازی دانش‌بنیان‌های آسیب‌دیده از جنگ
-
آینده‌ای که زمین هزینه‌اش را می‌دهد | جنجال گوگل در شمال فنلاند
-
آلمان نخستین ماهواره رصد تهدیدات هوایی را به فضا فرستاد
-
ترامپ: به‌زودی کار را تمام می‌کنیم ؛ جنگ با ایران طولانی نمی شود
-
واکنش اینترنشنال به گزینه پیشنهادی وزارت دفاع + ویدئو | معرفی اخلاقی به چه معناست؟
-
سه قلوهایی که رتبه برتر کنکور تجربی شدند + عکس
-
موشک جدید با قابلیت حمل کلاهک هسته‌ای آزمایش شد+ عکس | نظارت ویژه ماکرون
-
تصمیم ناگهانی؛ قلم قرمز قلعه‌نویی روی نام ۱۰ بازیکن تیم ملی
-
پرواز ممنوع به جز ۲ شهر | پایگاه‌ها، پالایشگاه‌ها و فرودگاه‌های سعودی زیر ضرب موشک‌های یمنی
-
عارف: به هیچ‌وجه نگران تحریم‌ها نیستیم
-
ترامپ: به‌زودی کار را تمام می‌کنیم ؛ جنگ با ایران طولانی نمی شود
-
ما در حال آماده شدن برای مقابله با یک حمله گسترده هستیم
-
تصمیم ناگهانی؛ قلم قرمز قلعه‌نویی روی نام ۱۰ بازیکن تیم ملی
-
قتل مرد همسایه به خاطر عکس خصوصی | من متأهل بودم و او مجرد
-
طاعون چطور منتقل می‌شود و چه علائمی دارد؟
-
باورنکردنی؛ قرارداد ۱۰۲ میلیارد تومانی دستیار قلعه‌نویی
-
این ادویه محبوب حافظه‌تان را تقویت می‌کند؛ چطور و چقدر مصرف کنیم؟
-
معجزه این میوه پاییزی برای قلب و مغز؛ هر روز و با پوست بخورید!
-
زلنسکی ضدیت با ایران را دوباره فریاد زد | اوکراین و اسرائیل هدف یک سلاح مشابه قرار گرفته‌اند
-
فوری؛ محموله جدید جنگنده بمب‌افکن سوخو-۳۴ تحویل شد | معادلات جنگ تغییر می‌کند؟