آیا در مواجهه با هوش مصنوعی، ما به زودی در وضعیت “fait accompli” قرار خواهیم گرفت؟ وضعیتی که اصطلاحا در آن، نه راه پیش داریم و نه راه پس. همون وضعیتی که در هر ساختار خودکامه و دیکتاتوری، که توام با ابهام و عدم‌شفافیت و عدم‌پاسخگویی است، معمولا با آن مواجه می‌شویم: وضعیتِ «عمل انجام‌شده»!
و پرسشی که شاید باید از خودمون بپرسیم اینه که چرا در مواجهه با هوش مصنوعی، شفافیت (Transparency) و باز بودگی (Openness) شرکت‌ها و موسساتی که ارائه‌دهنده سرویس هستند، اهمیت جدی داره؟ و اساسا این شفافیت را چگونه میشه سنجید؟
وبسایت زیر که برآمده از یک کار پژوهشی و تحقیقاتی است، سعی می‌کنه معیاری برای سنجش میزان بازبودگی و شفافیت LLMها ارائه بده. به این ترتیب که ۱۴ معیار را در ۳ دسته Availability، Documentation و Accessibility مورد ارزیابی قرار میده و مدل‌ها رو براساس آن مرتب می‌کنه.
حقیقت اینه که وضعیت بازبودگی و شفافیت در LLMها (به ویژه مدل‌های معروف و پراستفاده‌تر) اصلا خوب نیست. و این زنگ خطری است برای مواجه زودهنگام با وضعیت fait accompli.
اگر دغدغه چنین موضاتی رو دارید، پیشنهاد می‌کنم به سایت زیر و مقاله:
Opening up ChatGPT: Tracking Openness, Transparency, and Accountability in Instruction-Tuned Text Generators.
مراجعه کنید.
No comment