این موجود در یک لحظه تمام دانش جهان را به خود جذب می‌کند!

کد خبر: ۱۳۱۹۱۱۱

تاریخ: ۰۴ مرداد ۱۴۰۴ - ۰۱:۰۰

قبل از آنکه مغزتان را به دست ماشینی بدهید که خودش هنوز نمی‌داند چرا چنین جوابی داده، بهتر است راز پشت پرده‌ی «یادگیری» او را بدانید!

به گزارش تابناک به نقل از فارس؛ ما با مدلی حرف می‌زنیم که جواب می‌دهد، می‌نویسد، تحلیل می‌کند، اما هیچ‌وقت نمی‌پرسیم: از کِی؟ چطور؟ و چرا؟مدل‌های زبانی مثل چت‌جی‌پی‌تی و جمینای، فقط ابزار نیستند؛ آن‌ها به آرامی در حال ساختن «نگرش ما به واقعیت» هستند. خطر دقیقاً همین‌جاست. چون اگر ندانید این مدل‌ها چگونه آموزش می‌بینند، چه چیزی یاد می‌گیرند و کجا ممکن است کاملاً پرت بگویند، دیر یا زود درگیر یک توهم خواهید شد؛ توهمی که شبیه دانایی‌ست، اما شما را کور می‌کند.این گزارش، فقط دربارهٔ فناوری نیست؛ دربارهٔ مرز باریکی‌ست میان هوشمندی و فریب. اگر این مرز را نشناسید، روزی با اطمینان کامل تصمیمی خواهید گرفت که از اساس اشتباه بوده است!

اصلاً ضرورت این بحث چیست؟!

در هر لحظه، «ذهن‌های دیجیتال» اطراف ما در حال «یادگیری» و «تکامل» هستند؛ آن‌ها نه تنها پاسخ می‌دهند، بلکه آینده ما را شکل می‌دهند. اما آیا تاکنون به قلب این «تغییر عظیم» خیره شده‌اید؟ آیا می‌دانید چطور یک «ماشین بی‌جان»، پله‌پله به یک «استاد زبان» بدل می‌شود، حتی اگر شما از روش‌های پنهان این تبدیل بی‌خبر باشید؟

خودتان را تصور کنید که در یک بازی بزرگ و جدید شرکت کرده‌اید؛ بازی‌ای که قوانینش مدام در حال تغییر است و رقبایتان (این سامانه‌های هوشمند)، هر لحظه «باهوش‌تر» می‌شوند.اگر شما ندانید این رقیب چطور «بازی کردن» را می‌آموزد، چطور از اشتباهاتش درس می‌گیرد، و چگونه استراتژی‌هایش را «اصلاح» می‌کند، چگونه می‌توانید برنده باشید یا حتی از باخت خود جلوگیری کنید؟ ندانستن این جزئیات، شما را در برابر «توهمات شیرین» این پدیده‌ها که می‌توانند حقیقت را با فریب درآمیزند، آسیب‌پذیر می‌کند؛ شما را در برابر محدودیت‌ها و ضعف‌هایشان بی‌دفاع می‌گذارد و فرصت‌های بی‌شماری برای «مهار» و «استفاده بهینه» از آن‌ها را از شما سلب می‌کند.آگاهی از این موضوع، نه یک انتخاب، بلکه یک ضرورت قطعی است برای هر کسی که می‌خواهد نه تنها در این عصر نوین دوام بیاورد، بلکه بر آن مسلط شود.

چطور هوش مصنوعی شاگردی می‌کند و استاد می‌شود؟

برای اینکه یک هوش مصنوعی بتواند مثل یک آدم باهوش حرف بزند، متن بنویسد یا به سوالات جواب دهد، باید کلی «یاد بگیرد». این یادگیری شبیه به شاگردی کردن است، اما با روش‌های خاص خودش. بیایید این فرآیند را مثل آموزش یک «شاگرد قالی‌باف» ماهر در نظر بگیریم تا مسئله قدری روشن شود:

مرحله اول: پیش‌آموزش (Pre-training) – «شاگرد، الفبای دنیا را یاد می‌گیرد»

تصور کنید هوش مصنوعی ما یک «شاگرد قالی‌باف» است که تازه می‌خواهد پا به دنیای زبان و دانش بگذارد.در ابتدا، این شاگرد به یک «مکتب‌خانه خیلی بزرگ» می‌رود؛ بزرگ‌تر از هر کتابخانه‌ای که دیده‌اید، شاید به اندازه تمام کتاب‌های دنیا! در این مکتب‌خانه، هزاران هزار کتاب، داستان، مقاله، گفت‌وگو، شعر، و هر متنی که فکرش را بکنید (یعنی همان «دیتاست عظیم») جلوی او گذاشته می‌شود.

این شاگرد، همه این‌ها را با سرعت نور می‌خواند، نه اینکه فقط حفظ کند، بلکه «یاد می‌گیرد» که کلمات چطور کنار هم می‌آیند تا معنی بسازند. مثلاً می‌فهمد که بعد از «کتاب»، احتمالاً «میز» یا «خواندن» می‌آید. یا اینکه «گل» و «بلبل» در شعرها و داستان‌ها خیلی وقت‌ها کنار هم می‌آیند. او حتی یاد می‌گیرد که اگر گفتید «سلام، حالت چطوره؟»، کلمه بعدی «خوبم» احتمالاً می‌آید و نه مثلاً «کوه».هدف این مرحله، این است که هوش مصنوعی یک فهم «عمومی و گسترده» از زبان و دانش دنیا پیدا کند، مثل کودکی که تازه شروع به حرف زدن می‌کند و با شنیدن و خواندن بی‌شمار جمله، با جهان اطرافش آشنا می‌شود.او با دیدن میلیاردها جمله و متن، الگوهای ناگفته زبان را درک می‌کند؛ مثلاً اینکه فعل‌ها معمولاً کجا می‌آیند، صفت‌ها چه چیزی را توصیف می‌کنند، و چه کلماتی با هم ارتباط معنایی دارند. این دانش اولیه، پایه و اساس همه کارهای بعدی هوش مصنوعی است.

مرحله دوم: تنظیم دقیق (Fine-tuning) – «شاگرد، فنون خاص قالی‌بافی را یاد می‌گیرد»

حالا فرض کنید این شاگرد بعد از آن مکتب‌خانه عمومی، می‌خواهد «قالی‌باف ماهر» شود. او به یک کارگاه قالی‌بافی می‌رود و زیر نظر یک استادکار حرفه‌ای، فقط و فقط «فنون قالی‌بافی» را یاد می‌گیرد. اینجا دیگر خبری از یادگیری همه‌چیز نیست؛ فقط روی گره زدن‌های پیچیده، انتخاب دقیق رنگ‌ها برای یک نقشه خاص (مثلاً نقشه فرش تبریز یا کاشان)، و ظرافت‌های خاص قالی‌بافی تمرکز دارد.استادکار هم فقط الگوها و نقشه‌های قالی‌بافی را به او نشان می‌دهد و می‌گوید: «برای این مدل گره، اینطوری عمل کن.» (این داده‌های تخصصی، همان داده‌های «فاین‌تیونینگ» هستند که خیلی کمتر از داده‌های مرحله اول هستند).

در این مرحله، هوش مصنوعی ما که قبلاً دانش عمومی زیادی از زبان داشت، حالا «تخصص پیدا می‌کند».مثلاً اگر می‌خواهیم یک هوش مصنوعی داشته باشیم که فقط «داستان‌های شاهنامه» بنویسد، بعد از پیش‌آموزش عمومی (که در آن همه جور متن خوانده)، او را با هزاران بیت شعر و داستان از شاهنامه فردوسی «تنظیم دقیق» می‌کنیم. یا اگر هوش مصنوعی قرار است فقط به سوالات حقوقی جواب دهد، او را با صدها هزار پرونده و متن حقوقی «آموزش تخصصی» می‌دهند.هدف این است که در آن حوزه خاص، بی‌نظیر و حرفه‌ای شود و بتواند دقیق‌ترین و مرتبط‌ترین پاسخ‌ها را بدهد.

اما هوش مصنوعی چطور «یاد می‌گیرد» و اشتباهاتش را اصلاح می‌کند؟ (پشت صحنه آموزش)

اینجاست که سه تا مفهوم مهم وارد می‌شوند و هوش مصنوعی مثل یک انسان باهوش، اشتباهاتش را پیدا و اصلاح می‌کند:
تابع زیان (Loss Function) – «نقشه‌شطرنجی دقیق استادکار»تصور کنید شاگرد ما یک قسمت از قالی را بافته است. استادکار می‌آید و با یک «نقشه شطرنجی دقیق» بررسی می‌کند که «چقدر این قسمت بافته‌شده با نقشه اصلی فرق دارد» و «چقدر اشتباه دارد».

اگر رنگ‌ها اشتباه باشد، گره‌ها شل باشد یا طرح کج شده باشد، استادکار یک «عدد» به شاگرد می‌دهد که نشان می‌دهد چقدر کارش «خرابکاری» دارد! هر چقدر این عدد بزرگ‌تر باشد، یعنی خرابکاری بیشتر است.«تابع زیان» هم دقیقاً همین کار را برای هوش مصنوعی انجام می‌دهد. وقتی هوش مصنوعی یک متن را تولید می‌کند (مثلاً جواب یک سوال را می‌دهد یا یک بیت شعر می‌سازد)، یک برنامه خاص به نام «تابع زیان» میزان «اشتباه» یا «تفاوت» جواب هوش مصنوعی را با «جواب درست» (که ما از قبل به او گفته‌ایم) حساب می‌کند. نتیجه این محاسبه، یک «عدد زیان» است. هر چقدر این عدد کمتر باشد، یعنی هوش مصنوعی جوابش به جواب درست نزدیک‌تر است و کارش تمیزتر بوده. این «عدد زیان» مثل یک نمره منفی است که هوش مصنوعی می‌گیرد.

بهینه‌سازی (Optimization) – «تلاش شاگرد برای بهتر شدن»شاگرد ما عدد «خرابکاری» را از استادکار می‌گیرد و می‌فهمد که نمره منفی گرفته است. حالا می‌خواهد دفعه بعد کمتر خرابکاری کند. پس شروع می‌کند به «تغییر روش کارش». شاید نخ را محکم‌تر بکشد، شاید زاویه دستش را عوض کند، یا شاید رنگ‌ها را دقیق‌تر انتخاب کند. او مدام این تغییرات کوچک را ایجاد می‌کند و دوباره قالی می‌بافد تا «عدد خرابکاری»اش کم و کمتر شود.«بهینه‌سازی» هم همین است. هوش مصنوعی با دیدن «عدد زیان» (یعنی چقدر اشتباه کرده)، شروع به «تنظیم دقیق و تغییر وزن‌های ارتباطات داخلی»اش می‌کند. هوش مصنوعی از یک سری «رابطه ریاضی» استفاده می‌کند تا بفهمد کدام تنظیمات داخلی‌اش (که در اصطلاح فنی به آن‌ها «وزن» گفته می‌شود) نیاز به تغییر دارند. این تغییرات خیلی ریز و کوچک هستند، اما هدفشان این است که «عدد زیان» را پایین بیاورند و جواب هوش مصنوعی را به جواب درست نزدیک‌تر کنند. این فرآیند ده‌ها هزار و حتی میلیون‌ها بار تکرار می‌شود تا هوش مصنوعی به بهترین عملکرد برسد.

انتشار خطا به عقب (Backpropagation) – «ردیابی اشتباه تا سرمنشأ»این قسمت کمی پیچیده‌تر است، اما کلید یادگیری عمیق هوش مصنوعی است. فرض کنید استادکار به شاگرد می‌گوید: «این قسمت از قالی ایراد دارد.» اما فقط این ایراد را نمی‌گوید.او با تجربه و دانشش، ممکن است بگوید: «این گره‌ای که اینجا زدی، به خاطر این است که در ردیف ۲۰، نخ را خیلی شل کشیدی، و همین باعث شده کل این قسمت مشکل داشته باشد.» یعنی اشتباهی که در آخر کار دیده شده، ریشه‌اش در یک تصمیم یا حرکت اشتباه در مراحل قبلی و خیلی دورتر بوده است.

استادکار به شاگرد کمک می‌کند تا «به عقب برگردد» و بفهمد کدام اشتباهات قبلی باعث این خرابکاری نهایی شده‌اند تا دفعه بعد آن‌ها را هم اصلاح کند و از ریشه مشکل را حل کند.«انتشار خطا به عقب» هم همین است. هوش مصنوعی وقتی متوجه می‌شود اشتباهی کرده (عدد زیان بالاست)، این اشتباه را «به عقب» در تمام مراحل یادگیری و «مسیر فکری»اش برمی‌گرداند. او مثل یک کارآگاه، کشف می‌کند که کدام یک از «دانش‌های درونی» یا «ارتباطاتی» که در مراحل قبلی یاد گرفته، باعث این اشتباه نهایی شده‌اند.سپس، به طور خودکار، تمام آن «وزن‌ها» یا «رابطه‌ها» را اصلاح می‌کند تا دفعه بعد این اشتباه تکرار نشود. این روش باعث می‌شود که هوش مصنوعی به طور «هوشمندانه» و «عمیق» یاد بگیرد و هر بار بهتر شود، نه اینکه فقط اشتباهات سطحی را پاک کند. این دقیقاً همان مکانیسمی است که باعث می‌شود هوش مصنوعی با هر بار اشتباه کردن، درس بگیرد و به سمت کمال پیش برود.

هوش مصنوعی، شاگردی همیشگی در عصر دیجیتال

حالا می‌دانید که هوش مصنوعی، برای اینکه بتواند آن همه کارهای حیرت‌انگیز را انجام دهد، چه فرآیند پیچیده‌ای را پشت سر می‌گذارد؛ فرآیندی شبیه شاگردی که الفبا را یاد می‌گیرد، متخصص می‌شود، و با بازخورد مداوم و اصلاح روش‌هایش، به یک استادکار تبدیل می‌گردد. اما فراموش نکنید که این «یادگیری» و «فهمیدن»، با آگاهی و شعور انسانی فرق دارد. هوش مصنوعی فقط در حال یادگیری الگوهای پیچیده در دریایی از داده‌هاست، نه اینکه واقعاً احساس کند یا دنیا را درک کند.درک این فرآیند آموزش، به شما قدرت می‌دهد. شما حالا می‌دانید چطور هوش مصنوعی «بزرگ می‌شود»، چرا گاهی اشتباه می‌کند، و چطور می‌توانید با دستورات دقیق‌تر، به او کمک کنید تا «کمتر اشتباه کند» و «بهتر خدمت کند». این دانش، شما را از یک مصرف‌کننده صرف هوش مصنوعی به یک کاربر هوشمند و حتی یک راهبر در این دنیای جدید تبدیل می‌کند.

کلام آخر

هوش مصنوعی می‌آموزد. تصحیح می‌کند. بهینه می‌شود. اما نه از روی فهم، نه با درک معنا، نه به‌خاطر شما.او می‌آموزد چون سیستمش طوری طراحی شده که «زیانش کمتر شود». نه برای آنکه درست بگوید، بلکه فقط برای اینکه شبیه درست بودن به نظر برسد.و حالا که دانستید قلب تپنده این مدل‌ها چیست، دیگر اجازه ندارید با ساده‌لوحی از کنارشان بگذرید.شما دو انتخاب دارید:یا با چشمان باز، این ابزار را هدایت کنید،یا با چشمان بسته، هدایت شوید.هوش مصنوعی قرار نیست جای شما فکر کند. اما اگر سازوکارش را نشناسید، دقیقاً همین کار را خواهد کرد؛ آن‌هم بی‌رحمانه و بی‌وقفه.