تهمت تقلب به دانش‌آموزان به علت اشتباهات نرم‌افزاری

به گزارش نصر، هم‌زمان با گسترش استفاده از هوش مصنوعی مولد در مدارس و دانشگاه‌ها، ابزارهایی که قرار بود دانش‌آموز متقلب را شناسایی کنند، خودشان به مسئله تبدیل شده‌اند.پژوهش‌های تازه نشان می‌دهد آشکارسازهای متن هوش مصنوعی نمی‌توانند صرفاً از روی ویژگی‌های آماری یک نوشته، با اطمینان درباره منشأ آن حکم بدهند؛ حتی یک پژوهش منتشرشده در ۱۸ سپتامبر ۲۰۲۶ نشان داده است که یک متن کاملاً انسانی، هنگام آزمایش با پنج ابزار تجاری مختلف، از «صفر درصد هوش مصنوعی» تا «۱۰۰ درصد تولیدشده با هوش مصنوعی» طبقه‌بندی شده است.

مشکل از جایی شروع می‌شود که احتمال به «حکم» تبدیل شود
آشکارسازهای هوش مصنوعی معمولاً منشأ واقعی متن را مشاهده نمی‌کنند؛ آنها ویژگی‌هایی آماری مانند میزان قابل‌پیش‌بینی بودن واژه‌ها، تنوع ساختار جمله و الگوهای زبانی را بررسی می‌کنند و سپس احتمال می‌دهند که متن توسط انسان یا ماشین نوشته شده باشد.به همین دلیل، یک نوشته انسانی رسمی، منظم و قابل‌پیش‌بینی نیز می‌تواند شبیه متنی دیده شود که یک مدل زبانی تولید کرده است.پژوهش منتشرشده در سپتامبر ۲۰۲۶ تأکید می‌کند که این ابزارها در واقع «منشأ متن» را مشاهده نمی‌کنند و تنها ویژگی‌های قابل‌اندازه‌گیری متن را تحلیل می‌کنند.این مسئله برای دانش‌آموزانی که انگلیسی زبان اول آنها نیست، حساس‌تر می‌شود.یک بررسی از هفت آشکارساز شناخته‌شده روی ۹۱ مقاله واقعی آزمون تافل که توسط انگلیسی‌آموزان غیربومی نوشته شده بود، نشان داد این ابزارها به‌طور میانگین ۶۱ درصد از نوشته‌های انسانی را به اشتباه تولیدشده با هوش مصنوعی تشخیص دادند.در مقابل، عملکرد آنها روی نوشته‌های دانش‌آموزان آمریکایی که انگلیسی زبان اولشان بود، بسیار بهتر گزارش شد. این عدد البته نرخ ثابت خطای همه ابزارها نیست؛ بلکه نتیجه یک آزمون مشخص روی یک نمونه مشخص است و نشان می‌دهد خطا می‌تواند برای گروه‌های زبانی مختلف به‌شدت متفاوت باشد.

یک دانش‌آموز می‌تواند انسانی بنویسد و ماشین او را متهم کند
مشکل فقط تفاوت میان زبان‌آموزان نیست. در پژوهشی که در ۱۸ سپتامبر منتشر شد، پژوهشگران یک دست‌نوشته کاملاً انسانی را به پنج آشکارساز تجاری سپردند و خروجی ابزارها به‌شدت با یکدیگر اختلاف داشت؛ طبقه‌بندی‌ها از «کاملاً انسانی» تا «۱۰۰ درصد هوش مصنوعی» متغیر بود.پژوهشگران نتیجه گرفتند که این اختلاف، محدودیت مهمی در قابلیت اتکای این سامانه‌ها ایجاد می‌کند و نشان می‌دهد امتیاز یک آشکارساز به‌تنهایی نمی‌تواند ثابت کند چه کسی متن را نوشته است.حتی بررسی دیگری که در اوت ۲۰۲۶ روی ۱۳ آشکارساز و ۱۳۵ هزار و ۳۸۹ جفت سند انجام شد، نشان داد نرخ مثبت کاذب متن‌های انسانی بسته به ابزار از صفر تا ۱۰۰ درصد تغییر می‌کند.این مطالعه همچنین نشان داد ویرایش حرفه‌ای یک متن می‌تواند امتیاز تشخیص هوش مصنوعی را تغییر دهد، در حالی که نویسنده و محتوای اصلی همان متن باقی مانده است. به بیان ساده‌تر، گاهی آنچه الگوریتم «هوش مصنوعی» تشخیص می‌دهد، می‌تواند بیش از آنکه به منشأ متن مربوط باشد، به سبک نوشتن وابسته باشد.

دانشگاه‌ها یکی‌یکی از «قاضی دیجیتال» فاصله گرفته‌اند
دانشگاه واترلو کانادا از سپتامبر ۲۰۲۵ قابلیت تشخیص هوش مصنوعی در نرم‌افزار ترنیتین را کنار گذاشت. این دانشگاه اعلام کرد پژوهش‌ها درباره غیرقابل‌اعتماد بودن و سوگیری این ابزارها، همراه با آزمایش داخلی، نگرانی جدی ایجاد کرده است؛ در بیش از یک مورد، متن کاملاً نوشته‌شده توسط انسان ۱۰۰ درصد تولیدشده با هوش مصنوعی تشخیص داده شده بود.واترلو در نهایت اعلام کرد هیچ محصول موجودی نمی‌تواند به‌طور مؤثر استفاده از هوش مصنوعی مولد را شناسایی کند و تمرکز آموزشی باید به سمت طراحی ارزیابی و آموزش سواد هوش مصنوعی برود.دانشگاه کیپ‌تاون نیز از اول اکتبر ۲۰۲۵ استفاده از امتیاز تشخیص هوش مصنوعی ترنیتین را متوقف کرد. مقام آموزشی این دانشگاه صراحتاً هشدار داد که این ابزارها می‌توانند هم مثبت کاذب و هم منفی کاذب تولید کنند و اتکای ادامه‌دار به آنها ممکن است اعتماد دانشجویان و عدالت آموزشی را تضعیف کند.

خطر اصلی وقتی آغاز می‌شود که یک درصد، جای تحقیق را بگیرد
ترنیتین نیز در راهنمای خود تأکید کرده است که امتیاز تشخیص هوش مصنوعی نباید تنها مبنای اقدام انضباطی یا تعیین نمره باشد.دانشگاه واترلو نیز پیش از کنار گذاشتن این قابلیت، به استادان هشدار داده بود که درصد بالای «احتمال تولید با هوش مصنوعی» به‌تنهایی نمی‌تواند اثبات‌کننده تخلف آموزشی باشد و حتی امکان مثبت و منفی کاذب وجود دارد. بنابراین یک عدد مانند «۸۰ درصد هوش مصنوعی» از نظر فنی معادل «۸۰ درصد احتمال تقلب دانش‌آموز» نیست. این تفاوت در محیط آموزشی اهمیت حیاتی دارد. دانش‌آموزی که متهم به استفاده غیرمجاز از هوش مصنوعی شده، معمولاً با یک مسئله دشوار روبه‌روست: او باید ثابت کند متن را خودش نوشته است، در حالی که الگوریتم نیز الزاماً مدرکی درباره منشأ واقعی متن در اختیار ندارد.پیش‌نویس‌ها، تاریخچه ویرایش، یادداشت‌های اولیه، گفت‌وگو با دانش‌آموز و ارزیابی توانایی او برای توضیح محتوای نوشته می‌توانند شواهد مستقیم‌تری درباره فرایند تولید اثر باشند.
مطالعه دیگری که در سپتامبر ۲۰۲۶ درباره پنج ابزار تشخیص منتشر شده، نشان داد عملکرد این سامانه‌ها در متن‌های کاملاً انسانی، کاملاً تولیدشده با هوش مصنوعی، ترکیبی و بازنویسی‌شده یکسان نیست. پژوهشگران تأکید کرده‌اند که خروجی آشکارساز باید در چارچوب و با توجه به شرایط متن تفسیر شود، نه اینکه مانند یک حکم دودویی «انسان یا ماشین» مورد استفاده قرار گیرد.به همین دلیل، مسیر در حال تغییر است: به‌جای اینکه مدرسه یا دانشگاه ابتدا یک متن را به نرم‌افزار بدهد و سپس براساس یک درصد درباره دانش‌آموز تصمیم بگیرد، برخی مؤسسات به سمت ارزیابی فرایند یادگیری، نسخه‌های مختلف پیش‌نویس، شواهد کار دانش‌آموز و گفت‌وگوی مستقیم با او حرکت کرده‌اند. دانشگاه واترلو نیز رسماً به استادان توصیه کرده است به‌جای تمرکز بر شکار استفاده ممنوع از هوش مصنوعی، بر شواهد یادگیری و طراحی دوباره تکالیف تمرکز کنند.

رقابت با هوش مصنوعی نباید به محاکمه دانش‌آموز تبدیل شود
اصل مسئله البته واقعی است؛ هوش مصنوعی مولد توانایی تولید مقاله، حل مسئله و انجام بخش قابل‌توجهی از تکالیف آموزشی را دارد و نظام آموزشی نمی‌تواند این تغییر را نادیده بگیرد.اما پاسخ به یک مسئله واقعی، الزاماً استفاده از ابزاری با خطای نامشخص برای صدور حکم درباره دانش‌آموز نیست. تجربه دانشگاه‌هایی مانند واترلو و کیپ‌تاون و یافته‌های پژوهش‌های تازه نشان می‌دهد چالش اصلی اکنون فقط «چگونه دانش‌آموز متقلب را پیدا کنیم» نیست؛ بلکه این سؤال نیز مطرح شده است که چگونه می‌توان تقلب را تشخیص داد، بدون آنکه دانش‌آموزی که کار خودش را انجام داده قربانی یک تشخیص اشتباه شود.در نهایت، آشکارسازهای هوش مصنوعی می‌توانند یک سرنخ باشند، اما تبدیل کردن خروجی احتمالی آنها به نمره صفر یا حکم تخلف، مسئله‌ای کاملاً متفاوت است.وقتی یک ابزار درباره یک متن انسانی می‌تواند از صفر تا ۱۰۰ درصد خروجی‌های متناقض بدهد و حتی دانشگاه‌هایی پس از آزمایش داخلی استفاده از آن را متوقف کرده‌اند، «درصد هوش مصنوعی» دیگر نمی‌تواند به‌تنهایی جایگزین قضاوت آموزشی، شواهد و گفت‌وگو با دانش‌آموز شود.بحران جدید مدارس شاید از خود هوش مصنوعی شروع شده باشد، اما بخش مهم آن اکنون به اعتماد بیش از حد به الگوریتمی بازمی‌گردد که قرار بود درباره انسان‌ها قضاوت کند.
انتهای پیام/