گروه آلفا | مجری کسب و کارهای اینترنتی موفق
نویسنده: محمد جواد کرمیان 
گوگل به تازگی تکنولوژی نوآورانه‌ای به نام SynthID Text را معرفی کرده است. این ابزار که به‌صورت منبع‌باز و از طریق پلتفرم Hugging Face و ابزارهای Responsible GenAI Toolkitدر دسترس است، به توسعه‌دهندگان این امکان را می‌دهد که متون تولید شده توسط هوش مصنوعی را به طور دقیق تشخیص دهند. گوگل در شبکه اجتماعی X (توییتر سابق) اعلام کرد که این ابزار جدید به توسعه‌دهندگان و کسب‌وکارها کمک می‌کند تا محتوای هوش مصنوعی را علامت‌گذاری کنند و به این ترتیب اعتماد و شفافیت بیشتری را در فضای دیجیتال فراهم کنند.
نحوه کارکرد
هنگام تولید متن توسط مدل‌های هوش مصنوعی، تکنولوژی SynthID با تغییراتی در احتمال انتخاب توکن‌ها یا کلمات، الگویی خاص به متن می‌دهد که قابلیت شناسایی را برای متن‌های تولید شده توسط هوش مصنوعی به ارمغان می‌آورد. این ابزار حتی قادر است در متن‌هایی که دست‌کاری یا بازنویسی شده‌اند نیز علامت‌گذاری‌ها را شناسایی کند.
مزایا و محدودیت‌ها
SynthID می‌تواند بدون کاهش کیفیت یا دقت متن، محتوای تولید شده توسط هوش مصنوعی را شناسایی کند. با این حال، این تکنولوژی در متون کوتاه، ترجمه‌شده یا متونی که به سوالات واقعی پاسخ می‌دهند، عملکرد بهتری نشان نمی‌دهد. گوگل اذعان کرده است که در پاسخ‌های مرتبط با سوالات دقیق مانند پایتخت فرانسه چیست؟ به علت کمبود فرصت برای تغییر توزیع توکن‌ها، تشخیص به‌سختی انجام می‌شود.
رقابت در عرصه علامت‌گذاری متون هوش مصنوعی
نه تنها گوگل بلکه شرکت‌های بزرگی مانند OpenAI نیز به دنبال تکنولوژی‌های مشابه برای شناسایی محتوای تولید شده توسط هوش مصنوعی هستند. استفاده از روش‌های استاندارد برای علامت‌گذاری متنی می‌تواند به شناسایی دقیق‌تر محتوای هوش مصنوعی کمک کند، و با توجه به پیشرفت سریع این ابزارها، به‌زودی یک استاندارد واحد در این زمینه پذیرفته شود.
قوانین و آینده علامت‌گذاری محتوا
بسیاری از کشورها، از جمله چین و ایالت کالیفرنیا، در حال تدوین مقرراتی برای الزام به علامت‌گذاری محتوای هوش مصنوعی هستند. این اقدام‌ها نشان از اهمیت روزافزون مقابله با چالش‌هایی همچون انتشار اطلاعات نادرست، کلاه‌برداری و تبلیغات نادرست در فضای دیجیتال دارد. طبق پیش‌بینی‌ها، تا سال ۲۰۲۶ حدود ۹۰ درصد از محتوای آنلاین به‌صورت مصنوعی تولید خواهد شد.
جمع‌بندی
SynthID گامی مهم در جهت شفافیت بیشتر فضای دیجیتال و کاهش اطلاعات نادرست است. این ابزار می‌تواند نقشی اساسی در استانداردسازی شناسایی محتوای هوش مصنوعی ایفا کند و با افزایش اعتماد کاربران به محتوای آنلاین، محیطی امن‌تر و قابل اعتمادتر برای کسب‌وکارها و مصرف‌کنندگان فراهم آورد. با این حال، برای تبدیل شدن به یک ابزار جامع و کارآمد، نیاز به تکامل و ارتقا دارد.
منبع:
techcrunch.com
