افزایش نگران‌کننده استفاده از هوش مصنوعی در مقالات علمی

استفاده از هوش مصنوعی در مقالات علمی؛ روندی صعودی و بحث‌برانگیز

در سال گذشته میلادی، از هر هفت چکیده مقاله در حوزه زیست‌پزشکی، یک مورد احتمالاً با کمک هوش مصنوعی نوشته شده است. این یافته نگران‌کننده حاصل پژوهشی تازه است که به بررسی میزان نفوذ مدل‌های زبانی بزرگ در ادبیات علمی پرداخته است.

بر اساس گزارش مجله نیچر، محققان دانشگاه توبینگن آلمان با تحلیل بیش از ۱.۵ میلیون چکیده مقاله نمایه‌شده در پایگاه PubMed، به این نتیجه رسیدند که حدود ۲۰۰ هزار مقاله (معادل ۱۴ درصد) دارای نشانه‌های قوی از ویرایش یا تولید محتوا توسط ابزارهایی مانند ChatGPT بوده‌اند.

چگونه محققان نشانه‌های استفاده از هوش مصنوعی را شناسایی کردند؟

نکته قابل‌توجه در این مطالعه، روش منحصربه‌فرد پژوهشگران برای تشخیص متون تولیدشده توسط هوش مصنوعی بود. به‌جای آموزش یک مدل تشخیص‌دهنده، آنها به تحلیل واژگان خاصی پرداختند که پس از عرضه عمومی ChatGPT در نوامبر ۲۰۲۲، به‌طرز مشهودی افزایش یافته بودند.

این کلمات اغلب «واژگان سبکی» هستند، نه تخصصی، که مدل‌های زبانی بزرگ تمایل زیادی به استفاده از آن‌ها دارند. نمونه‌هایی از این واژگان عبارت‌اند از:

• Delves (کندوکاو کردن)

• Showcasing (به نمایش گذاشتن)

• Unparalleled (بی‌نظیر)

• Invaluable (گران‌بها)

• Crucial (حیاتی)

جالب آنکه، این تغییرات زبانی حتی از واژگان رایج در دوران کرونا نیز شدیدتر بوده است.

استفاده از هوش مصنوعی؛ ابزاری مفید یا تهدیدی پنهان؟

گرچه استفاده از هوش مصنوعی در مقالات علمی می‌تواند به ویرایش بهتر و روان‌سازی متن کمک کند، اما عدم شفافیت در میزان و نوع استفاده، پرسش‌های جدی اخلاقی و علمی ایجاد کرده است.

مطالعه نشان می‌دهد که استفاده از هوش مصنوعی در برخی حوزه‌ها مانند بیوانفورماتیک و محاسبات، و در کشورهای خاصی همچون چین و کره جنوبی، شایع‌تر است. در این کشورها، تا ۲۰ درصد از چکیده‌ها احتمالاً با کمک هوش مصنوعی تولید شده‌اند.

با افزایش آگاهی درباره قابلیت‌های ابزارهایی مانند ChatGPT، برخی نویسندگان تلاش می‌کنند تا ردپای استفاده از آن‌ها را پنهان کنند؛ برای مثال با حذف واژگان شاخص یا تنظیم مجدد دستورات خود به چت‌بات‌ها.

ضرورت تدوین دستورالعمل‌های اخلاقی

یکی از مهم‌ترین چالش‌های فعلی، عدم توانایی پژوهشگران در تمایز بین استفاده مجاز و سوء‌استفاده از هوش مصنوعی در متون علمی است. هنوز مشخص نیست آیا نویسندگان صرفاً از این ابزارها برای ترجمه یا ویرایش استفاده کرده‌اند، یا بخش‌هایی از محتوای علمی را بدون درک عمیق، به مدل‌های زبانی سپرده‌اند.

این وضعیت، بار دیگر اهمیت تدوین سیاست‌ها و دستورالعمل‌های مشخص برای استفاده اخلاقی از هوش مصنوعی در حوزه تحقیق و انتشار علمی را یادآور می‌شود.