کلیپ
پادکست
متن
بسمالله الرحمن الرحیم
کارشناس: استاد محمودی
عنوان: راههای شناخت متنهای ساخته شده با هوش مصنوعی
یکی از مباحث جدی در دنیای امروز، روشهای شناخت متنهایی است که با استفاده از هوش مصنوعی تولید شدهاند. برای این منظور، سه راهکار اصلی وجود دارد:
- یکسانسازی محتوایی (Content Uniformity)
متنهایی که توسط هوش مصنوعی تولید میشوند، غالباً ساختار یکسانی دارند. این یکسانسازی میتواند در خود محتوا یا در قالببندی آن مشهود باشد.
علائم ساختاری:
متون هوش مصنوعی معمولاً شامل چندین پاراگراف پشت سر هم هستند که هر پاراگراف دارای طول یکسانی (مانند سه یا چهار خط) است و در انتهای هر کدام، یک ارجاع (سند) قرار داده شده است.
علائم محتوایی:
میدانیم که انسان در هنگام نگارش آثار علمی (مانند پایاننامه یا مقاله)، در بخشهایی از متن از لحاظ علمی بسیار غنی عمل میکند، در حالی که بخشهای دیگر (حتی در کار برجستهترین استادان دانشگاه) ممکن است از لحاظ استدلال ضعیفتر باشند؛ این تفاوت در هر کار انسانی وجود دارد. اما اگر شما متنی را مشاهده کنید که محتوای آن یکسانی کامل داشته باشد و تماماً شامل تحلیل ناب باشد، باید به هوش مصنوعی بودن آن شک کرد. یکسان بودن پاراگرافها یا یکسان بودن تیپ ارجاعات (مانند وجود دقیقاً دو ارجاع در هر پاراگراف) از نشانههای استفاده از هوش مصنوعی است.
- فقدان اشتباهات (Absence of Mistakes)
متنهایی که توسط انسانها نگارش میشوند، امکان ندارد که عاری از اشتباه باشند. در دقیقترین و عمیقترین متون انسانی نیز عموماً اشتباهاتی وجود دارد. بنابراین، باید به متنی که هیچ اشتباهی ندارد، شک کرد. این اشتباهات هم در تحلیل و محتوا و هم در قالب و متن مدنظر است.
- اشتباه در تحلیل و ارجاعدهی (Errors in Analysis and Referencing)
اشتباهات، به عنوان گزینه سوم، یکی از جدیترین روشهای شناسایی متون هوش مصنوعی است.
ضعف در ارجاعدهی:
هوش مصنوعی در زمینه ارجاعات بسیار ضعیف عمل میکند. اگر در حوزه ارجاعات متنی، مشکلات جدی مشاهده شد، یکی از گزینههایی که به ذهن میرسد، استفاده از هوش مصنوعی است.
اشتباهات فاحش در تحلیل:
گاهی اوقات اشتباهات فاحشی در تحلیل مطالب مشاهده میشود.
مثال موردی:
چند روز پیش، استاد محمودی مقالهای را داوری میکردند که در ابتدا بسیار عالی بود. اما در اواخر مقاله، نکتهای مشاهده شد که باعث شد مقاله رد شود. نویسنده مقاله، اهمیت هوش مصنوعی را به اشتباه از زبان علامه طباطبایی صاحب تفسیر المیزان نقل کرده بود. این در حالی است که ایشان در دهه ۷۰ (شمسی) به رحمت خدا رفتند و در زمان حیات ایشان، هوش مصنوعی وجود نداشت.
این اشتباه نشان میدهد که تمام تمرکز نویسنده بر جمعآوری محتوای حداکثری از هوش مصنوعی بوده، بدون اینکه فهم و درک لازم برای جلوگیری از «سوتیهای فاجعه» را داشته باشد.
هوش مصنوعی صرفاً یک ابزار است و قرار نیست همه چیز برای ما باشد.