مفهوم و اصطلاح · جهانی
هوش مصنوعی مولد و ارزیابی خروجی
سامانه‌هایی که محتوایی مانند متن، تصویر یا صدا تولید می‌کنند و خروجی آن‌ها نیازمند ارزیابی متناسب با کاربرد است.
تعریف و ویژگی‌ها
هوش مصنوعی مولد می‌تواند در تولید پیش‌نویس، ایده‌پردازی یا ساخت محتوای چندرسانه‌ای به کار رود. پروفایل NIST AI 600-1 برای این حوزه، چارچوبی برای توجه به ریسک و اعتمادپذیری ارائه می‌کند. روان‌بودن متن یا کیفیت ظاهری تصویر به‌تنهایی نشانه درستی، اصالت یا تناسب خروجی نیست.
کاربرد و ملاحظات
در یک پروژه فرهنگی باید منبع داده، حقوق استفاده، احتمال خطای واقعیت و نقش بازبینی انسانی مشخص شوند. بهتر است ادعاهای تاریخی و انتساب آثار با منابع مستقل کنترل شوند. استفاده از ابزار مولد، مسئولیت تصمیم درباره انتشار را از تولیدکننده محتوا برنمی‌دارد و جای پژوهش یا داوری تخصصی را کامل نمی‌گیرد.
نام انگلیسی: Generative AI
منابع و مآخذ
- NIST — AI Risk Management Framework: Generative AI Profile, NIST AI 600-1
- https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf
کلیدواژه‌ها
هوش مصنوعی مولد،ارزیابی محتوا،اعتمادپذیری،تولید دیجیتال