مطالعه امآیتی، مربیان آموزشی و معلمان را نگران کرده است
تضعیف شناختی با هوش مصنوعی؟
نتایج به اندازه کافی قابلتوجه بود که بحث گستردهتری را در مورد اینکه آیا ابزارهای هوش مصنوعی به افراد کمک میکنند تا بهتر فکر کنند یا آنها را تشویق میکنند تا تلاشی را که باعث ایجاد مهارتهای شناختی میشود، برونسپاری کنند، دامن بزند.
این مطالعه نباید به عنوان مدرک قطعی مبنی بر آسیب چتجیپیتی به مغز تلقی شود. این مطالعه کوچک و مقدماتی بود و یافتهها باعث بحثهایی بین دانشمندان شد. اما یک سوال جدی برای مدارس، کارفرمایان، والدین و کاربران روزمره ایجاد میکند: چه اتفاقی میافتد وقتی ابزاری که برای کاهش تلاش ذهنی طراحی شده است، به روش پیشفرض افراد برای انجام وظایف فکری تبدیل میشود؟
یافتههای آزمایش امآیتی چه بودند؟
این مطالعه که توسط امآیتی انجام شده، عنوانش «مغز شما در چتجیپیتی» است: انباشت بدهی شناختی هنگام استفاده از دستیار هوش مصنوعی برای نوشتن مقاله، بررسی کرد که چگونه ابزارهای مختلف نوشتاری بر تعامل و رفتار عصبی تاثیر میگذارند. شرکتکنندگان در سه جلسه، در حالی که در همان شرایط تعیینشده باقی مانده بودند، انشاهایی به سبک SAT (آزمون استاندارد برای پذیرش در دانشگاه در آمریکا) نوشتند: چتجیپیتی، موتور جستوجو و فقط مغز.
گروه کوچکتری بعدا برای جلسه چهارم بازگشتند که در آن برخی از شرکتکنندگان شرایط را تغییر دادند. نتایج الکتروانسفالوگرامها (EEG)، یک سلسله مراتب واضح را نشان داد. شرکتکنندگانی که بدون ابزار مینوشتند، قویترین و پراکندهترین اتصال مغزی را نشان دادند. کاربران موتورهای جستوجو تعامل متوسطی نشان دادند. کاربران چتجیپیتی ضعیفترین ارتباط را در طول انجام وظیفه انشا نشان دادند. محققان این الگو را به عنوان کاهش فعالیت شناختی با افزایش پشتیبانی ابزار خارجی توصیف کردند.
این مطالعه همچنین تفاوتهایی فراتر از فعالیت مغز را نشان داد. گروه چتجیپیتی مالکیت خودِگزارششده کمتری نسبت به مقالات خود نشان دادند و در نقلقول دقیق از کار خودشان مشکل بیشتری داشتند. همچنین مقالات آنها شباهت درون گروهی بیشتری را نشان داد، که نشان میدهد کمک هوش مصنوعی ممکن است دامنه بیان و ایدهها را محدود کرده باشد.
این ترکیب اهمیت دارد. نگرانی فقط این نیست که مغز در طول نوشتن با کمک هوش مصنوعی کمتر فعال بوده است، بلکه این است که به نظر میرسد شرکتکنندگان از نظر زبانی، رفتاری و روانشناختی ارتباط کمتری با محصول نهایی برقرار کردهاند.
ایده «بدهی شناختی»
این مطالعه از عبارت «بدهی شناختی» برای توصیف هزینه احتمالی اتکای مکرر به هوش مصنوعی استفاده میکند. ایده این است که وقتی شخصی بارها و بارها به یک سیستم هوش مصنوعی اجازه میدهد تا برنامهریزی، عبارتبندی، ترکیب و ساختار استدلال را مدیریت کند، کاربر ممکن است در آن لحظه در تلاش خود صرفهجویی کند، درحالیکه تمرین در مهارتهایی را که معمولا با تلاش ایجاد میشوند، از دست میدهد.
نوشتن نه تنها راهی برای تولید متن است، بلکه روشی برای تفکر نیز هست. وقتی کسی بدون تولید خارجی مقالهای مینویسد، باید دانش را بازیابی کند، ایدهها را سازماندهی کند، استدلالها را بیازماید، تصمیم بگیرد چه چیزی مهم است و بیان خود را اصلاح کند. این مراحل از نظر ذهنی طاقتفرسا هستند، اما این تلاش بخشی از فرآیند یادگیری است.
چتجیپیتی میتواند این تقاضا را بهطرز چشمگیری کاهش دهد. میتواند ساختار ایجاد کند، عبارتبندی ارائه دهد، انتقالها را پیشنهاد دهد و از یک درخواست نسبتا کوتاه، پاسخی شستهرفته ارائه دهد. این کارآیی مفید است، اما یافتههای امآیتی نشان میدهد که وقتی ابزار بیش از حد کار شناختی انجام میدهد، کارآیی ممکن است با کاهش تعامل همراه باشد. این به آن معنا نیست که هر استفادهای از هوش مصنوعی بدهی شناختی ایجاد میکند. بلکه به این معنی است که وقتی نقش انسان از متفکر و نویسنده به درخواستکننده و ویراستار کاهش مییابد، خطر افزایش مییابد.
چرا جستوجوی گوگل متفاوت به نظر میرسید؟
گروه موتورهای جستوجو مهم است زیرا نشان میدهد که همه کمکهای دیجیتال تاثیر یکسانی نداشتهاند. شرکتکنندگانی که از جستوجوی گوگل استفاده میکردند به اطلاعات خارجی دسترسی داشتند، اما همچنان مجبور بودند آن اطلاعات را بخوانند، انتخاب کنند، تفسیر کنند و در مقالههای خود بگنجانند. میزان درگیری مغز آنها کمتر از گروه فقط با مغز بود، اما بیشتر از گروه چتجیپیتی بود. این تفاوت به توضیح مساله اصلی کمک میکند. جستوجو میتواند از تفکر پشتیبانی کند درحالیکه هنوز کاربر را ملزم به انجام بخش زیادی از کار فکری میکند. یک مدل مولد میتواند ساختار و زبان نهایی را مستقیما تولید کند، که ممکن است نیاز به سازماندهی داخلی را کاهش دهد. تمایز بین فناوری و عدم فناوری نیست. این تمایز بین ابزارهایی است که تفکر را گسترش میدهند و ابزارهایی که جایگزین بخشهای بزرگی از فرآیند تفکر میشوند.
به همین دلیل است که یافتههای این مطالعه بهویژه در آموزش اهمیت پیدا کردهاند. دانشآموزی که از جستوجو استفاده میکند، هنوز باید تصمیم بگیرد که شواهد به چه معناست. دانشآموزی که یک سوال را در یک دستیار هوش مصنوعی وارد میکند، ممکن است قبل از انجام آن کار، یک استدلال کامل دریافت کند.
مطالعه کوچک با محدودیتهای بزرگ
احتیاط در مورد این مطالعه مهم است. مجله نیچر گزارش داد که دانشمندان نسبت به تفسیر بیش از حد نتایج هشدار دادهاند، زیرا این آزمایش کوچک بوده و قبل از اینکه یافتهها از طریق تکرار گستردهتر به نتیجه برسند، توجه عمومی قابلتوجهی را به خود جلب کرده است. این مطالعه شامل ۵۴ شرکتکننده در جلسات اصلی و تنها ۱۸ نفر در جلسه چهارم بود که این موضوع، تعمیمپذیری نتایج را محدود میکند. این تحقیق همچنین روی یک نوع کار تمرکز داشت: «نوشتن مقاله کوتاه.» این بهطور خودکار به هر شکلی از استفاده از هوش مصنوعی قابل تعمیم نیست. استفاده از هوش مصنوعی برای توفان فکری، بررسی دستور زبان، توضیح یک مفهوم، اشکالزدایی کد، خلاصه کردن یادداشتها یا به چالش کشیدن یک استدلال ممکن است بسته به نحوه تعامل فرد با ابزار، اثرات شناختی متفاوتی داشته باشد.
قویترین نسخه از این یافته این نیست که هوش مصنوعی به ناچار افراد را کمهوشتر میکند. بلکه این است که استفاده غیرفعال از هوش مصنوعی مولد ممکن است مشارکت را در طول وظایفی که قرار است مهارت تفکر را ایجاد کنند، کاهش دهد. این یک ادعای محدودتر است، اما همچنان مهم است.
چرا مربیان آموزشی نگرانند؟
این یافتهها در زمانی منتشر میشوند که مدارس و دانشگاهها در حال حاضر برای سازگاری با این شرایط در تلاش هستند. ابزارهای هوش مصنوعی میتوانند مقاله تولید کنند، مسائل تکالیف را حل کنند، مطالب خوانده شده را خلاصه کنند و به سرعت پستهای بحث و گفتوگو ایجاد کنند. این امر مشکلات آشکاری را در زمینه صداقت تحصیلی ایجاد میکند، اما نگرانی عمیقتر، «آموزشی» است. اگر دانشآموزان از هوش مصنوعی برای دور زدن تقلا و تلاش استفاده کنند، ممکن است همان تمرینی را که باعث توسعه حافظه، استدلال و بیان میشود، از دست بدهند. یک مقاله بینقص با مطالب آموختهشده یکسان نیست. یک پاسخ صحیح با فهمیدن یکسان نیست. یافته مطالعه امآیتی مبنی بر اینکه کاربران چتجیپیتی مالکیت ضعیفتر و یادآوری ضعیفتری از مقالههای خود داشتند، مستقیما به همین نگرانی اشاره دارد. برخی از مربیان با احیای امتحانات شفاهی، نوشتن در کلاس، پیشنویسهای دستنویس، دفترچههای ثبت فرآیند و تکالیفی که از دانشآموزان میخواهند توضیح دهند چگونه به یک پاسخ رسیدهاند، به این موضوع واکنش نشان دادهاند. این رویکردها صرفا اقدامات ضد هوش مصنوعی نیستند. آنها تلاشهایی برای تایید این موضوع هستند که یادگیری در درون دانشآموز اتفاق افتاده است، نه فقط در داخل سند ارائه شده.
چالش این است که اعمال ممنوعیتها دشوار است و ممکن است دانشآموزان را برای دنیایی که واقعا وارد آن خواهند شد، آماده نکند. هوش مصنوعی در حال حاضر در محیطهای کاری و ابزارهای مصرفی تعبیه شده است. سوال بهتر این است که چگونه از آن استفاده کنیم بدون اینکه دانشآموزان از نظر فکری به آن وابسته شوند.
دلیلی برای استفاده دقیق از هوش مصنوعی
این مطالعه ثابت نمیکند که هوش مصنوعی باید از محیطهای یادگیری حذف شود. در واقع، جلسه چهارم احتمال ظریفتری را ارائه میدهد. شرکتکنندگانی که ابتدا بدون ابزار نوشتند و بعدا از چتجیپیتی استفاده کردند، نسبت به کسانی که از ابتدا به چتجیپیتی تکیه کرده بودند، یادآوری حافظه بالاتر و فعالسازی قویتری در مناطق خاصی از مغز نشان دادند. این نشان میدهد که توالی اهمیت دارد. وقتی افراد ابتدا خودشان با یک مشکل دست و پنجه نرم میکنند و سپس از هوش مصنوعی استفاده میکنند، این ابزار ممکن است به جای جایگزینی تفکر اولیه، از اصلاح آن پشتیبانی کند. در این مدل، هوش مصنوعی به جای یک نویسنده جایگزین، به یک معلم، منتقد یا دستیار تبدیل میشود. این تمایز میتواند سیاست بهتری را در کلاس درس شکل دهد. دانشآموزان ممکن است ابتدا طرح کلی را بهطور مستقل تهیه کنند، استدلالهای اولیه را با دست بنویسند یا استدلالهای خود را قبل از استفاده از هوش مصنوعی برای اصلاح زبان یا آزمایش استدلالهای مخالف توضیح دهند. هدف این است که کار شناختی حفظ شود و در عین حال از فناوری بهره برده شود. خطر، کمک هوش مصنوعی نیست. خطر، واگذاری زودهنگام مسوولیت است.
این در خارج از مدرسه به چه معناست؟
همین نگرانی در مورد بزرگسالان در محل کار نیز صدق میکند. متخصصان به طور فزایندهای از هوش مصنوعی برای نوشتن ایمیل، تهیه گزارش، خلاصه کردن اسناد، تولید کد، تولید ارائه و برنامهریزی پروژهها استفاده میکنند. این میتواند در زمان صرفهجویی کند، اما اگر بدون قضاوت استفاده شود، ممکن است تمرین در مهارتهای حرفهای اصلی را نیز کاهش دهد. کاربری که از هوش مصنوعی میخواهد گزارشی را تهیه کند و سپس آن را با دقت بازنویسی میکند، ممکن است هنوز در حال قضاوت باشد. کاربری که خروجی را با حداقل بررسی میپذیرد، ممکن است با گذشت زمان با موضوع کمتر آشنا شود. در زمینههای پرمخاطره، این شکاف میتواند خطرناک شود. تخلیه شناختی چیز جدیدی نیست. مردم همیشه از ابزارهایی برای کاهش بار ذهنی استفاده کردهاند، از ماشینحساب گرفته تا موتورهای جستوجو و GPS. تفاوت هوش مصنوعی مولد این است که نه تنها میتواند بار حافظه یا محاسبات را کاهش دهد، بلکه میتواند بیان، استدلال و ترکیب را نیز تخلیه کند. اینها عملکردهای شناختی عمیقتری هستند. این باعث میشود «تعادل» حساستر شود.
مشکل حریم خصوصی و دقت
همچنین یک لایه دقت وجود دارد. نوشتههای تولید شده توسط هوش مصنوعی میتوانند در عین حال که اشتباه میکنند، ظرافتها را نادیده میگیرند یا جزئیات را ابداع میکنند، مطمئن به نظر برسند. اگر کاربران هنگام استفاده از سیستم کمتر درگیر شوند، ممکن است کمتر متوجه این خطاها شوند. استقبال عمومی از مطالعه امآیتی خطر دیگری را نشان داد: خلاصه تحقیقات انجام شده توسط ابزارهای هوش مصنوعی، گاهی اوقات ادعاهای تحریف شده یا اغراقآمیزی را مطرح میکرد، که طبق پوشش خبری مناظره، این کنایه، نکته کلیتر مطالعه در مورد تکیه بر هوش مصنوعی برای پردازش مطالب پیچیده بدون تایید دقیق انسانی را تقویت کرد.
یک استاندارد واقعبینانهتر
بهترین واکنش، وحشت نیست. این یک استاندارد واقعبینانهتر برای استفاده از هوش مصنوعی است. هوش مصنوعی میتواند زمانی مفید باشد که ایدههای دشوار را توضیح دهد، بازخورد ارائه دهد، سوالات تمرینی ایجاد کند، مثالهای جایگزین ارائه دهد یا استدلالهای ضعیف را به چالش بکشد. وقتی که قبل از اینکه کاربر کار اصلی را انجام داده باشد، پاسخ اصلی را ارائه دهد، خطرناکتر میشود. برای دانشآموزان، این یعنی هوش مصنوعی باید بعد از تلاش بیاید، نه قبل از آن. برای کارگران، یعنی هوش مصنوعی باید فرآیندی را که فرد میفهمد تسریع کند، نه اینکه جایگزین فهم شود. برای والدین و مدارس، این به این معنی است که کاربران جوانتر به محافظ نیاز دارند، زیرا مغزهای در حال رشد ممکن است در برابر عادتهای برونسپاری شناختی آسیبپذیرتر باشند.
ناتالیا کاسمینا این مطالعه را تا حدودی به دلیل نگرانی از اینکه هوش مصنوعی میتواند خیلی سریع در آموزش، به ویژه برای زبانآموزان جوانتر، قبل از اینکه محققان اثرات بلندمدت آن را درک کنند، ادغام شود، زودتر منتشر کرد. این نگرانی به معنای رد فناوری نیست. این هشداری است مبنی بر اینکه پذیرش آن سریعتر از شواهد در حال حرکت است.
آزمون آموزشی هوش مصنوعی
سوال اصلی این نیست که آیا هوش مصنوعی میتواند بنویسد یا نه. سوال دیگر این است که آیا افرادی که به آن متکی هستند، هنوز یاد میگیرند که فکر کنند، به خاطر بسپارند، استدلال کنند و خلق کنند یا خیر. مطالعه امآیتی هشدار اولیهای ارائه میدهد مبنی بر اینکه وقتی هوش مصنوعی مولد به اولین گام در یک کار فکری تبدیل میشود، راحتی ممکن است هزینه شناختی داشته باشد. شواهد قطعی نیستند، اما به اندازه کافی جدی هستند که نیاز به تحقیقات بهتر و طراحی دقیقتر کلاس درس را ایجاب کنند.
هوش مصنوعی ممکن است به یکی از قدرتمندترین ابزارهای آموزشی که تاکنون ساخته شده تبدیل شود. همچنین ممکن است به یکی از سادهترین راهها برای جلوگیری از تلاش ذهنی که قرار است آموزش، پرورش دهد، تبدیل شود. تفاوت به نحوه استفاده از آن بستگی دارد: «به عنوان یک شریک پس از شروع تفکر یا به عنوان یک میانبر قبل از اینکه تفکر فرصتی برای شروع داشته باشد.»
