ظهور ChatGPT برای بسیاری از فعالان حوزه فناوری یک نقطه عطف تاریخی بود، اما برای دیگو آلمیدا (Diogo Almeida)، یکی از پژوهشگران سابق OpenAI و از افرادی که در توسعه این فناوری نقش داشت، یک سؤال بزرگ باقی ماند: چرا با وجود قدرت بالای هوش مصنوعی، استفاده عملی از آن هنوز محدود است؟
آلمیدا که در توسعه ChatGPT و همچنین روش معروف یادگیری تقویتی از بازخورد انسانی (RLHF) نقش داشت، معتقد است مشکل اصلی در مسیر فعلی هوش مصنوعی این است که مدلها بیش از حد برای درک و تولید زبان انسان بهینه شدهاند؛ در حالی که رایانهها برای انجام خودکار وظایف، به نوع دیگری از هوش نیاز دارند.
او در گفتوگو با TechCrunch گفت:
«ما یک فرصت فوقالعاده در اختیار داریم، اما هنوز به اندازه کافی کاربردی نیست. سالها روی زبان انسانی فوقالعاده عمل کردهایم، اما برای خودکارسازی کارها، کامپیوترها با زبان متفاوتی کار میکنند.»
TypeSafe AI؛ تلاش برای ساخت نسل جدید مدلهای هوش مصنوعی
دو سال پیش، آلمیدا شرکت جدیدی به نام TypeSafe AI تأسیس کرد تا این مشکل را حل کند.
این استارتاپ اخیراً مدل هوش مصنوعی جدیدی با نام Jev معرفی کرده است؛ مدلی که برخلاف مدلهای زبانی بزرگ یا LLMها (Large Language Models)، متن تولید نمیکند.
Jev به جای پاسخهای متنی، خروجی خود را به شکل احتمالها و تصمیمهای قابل اندازهگیری ارائه میدهد؛ چیزی که شرکت آن را «تصمیمهای کالیبرهشده» (Calibrated Decisions) مینامد.
این رویکرد تفاوت بزرگی با مدلهایی مانند ChatGPT دارد.
چرا Jev میتواند جایگزین یا مکمل مدلهای زبانی بزرگ شود؟
مدلهای زبانی بزرگ معمولاً برای تولید متن طراحی شدهاند، اما همین ویژگی گاهی باعث ایجاد مشکلاتی مانند:
- پاسخهای ساختگی یا توهمات هوش مصنوعی (AI Hallucination)
- هزینه پردازشی بالا
- سرعت پایین در برخی کاربردهای نرمافزاری
میشود.
اما Jev با حذف تولید زبان طبیعی، چند مزیت مهم ایجاد کرده است:
- هزینه استفاده بسیار پایینتر
- سرعت پردازش بالاتر
- کاهش احتمال تولید اطلاعات جعلی
- امکان کنترل دقیق خروجیها توسط توسعهدهندگان
در این مدل، کاربر از قبل مشخص میکند که چه نوع خروجیهایی مورد نیاز است و مدل تنها احتمال هر گزینه را محاسبه میکند.
همچنین هزینه توکنهای خروجی در این سیستم رایگان است و هزینه ورودیها نیز به جای میلیونها توکن، بر اساس میلیاردها توکن محاسبه میشود.
استقبال توسعهدهندگان از مدل Jev
مدل جدید TypeSafe AI خیلی سریع توجه برنامهنویسان را به خود جلب کرد؛ تا جایی که این شرکت برای مدت کوتاهی به دلیل حجم بالای درخواستها، در ارائه سرویس API خود با مشکل مواجه شد.
بیشترین کاربرد فعلی Jev در حوزه اتوماسیون نرمافزار دیده میشود؛ جایی که توسعهدهندگان به دنبال راهی ارزانتر و مطمئنتر برای اضافه کردن قابلیتهای هوشمند به برنامههای خود هستند.
یکی از جذابترین ویژگیهای Jev برای برنامهنویسان، توانایی آن در انجام وظایف طبقهبندی و تصمیمگیری سریع است.
عملکرد بهتر Jev در برخی آزمایشهای واقعی
برای مثال، پرانیت شارما، مهندس نرمافزار شرکت Vercel که در زمینه زیرساختهای هوش مصنوعی فعالیت میکند، اعلام کرده است که تیم آنها از یک مدل هوش مصنوعی برای بررسی امنیت فرمانها استفاده میکرد.
پس از جایگزینی مدل OpenAI با Jev، این سیستم توانست:
- بین ۵ تا ۱۸ برابر سریعتر عمل کند.
- دقت بیشتری در بررسی دستورات داشته باشد.
در آزمایش دیگری، نیکیل مودولکار، مدیر فناوری شرکت Bryo AI، عملکرد Jev را با Gemini در دستهبندی ایمیلهای تجاری مقایسه کرد.
در این آزمایش، Gemini کمی دقیقتر بود، اما هزینه استفاده از آن حدود ۱۰ تا ۲۰ برابر بیشتر گزارش شد.
به گفته مودولکار، مهمترین ویژگی Jev امتیازهای اطمینان یا Confidence Score آن است؛ زیرا این مدل برخلاف بسیاری از سیستمها، احتمال واقعی تصمیم خود را ارائه میدهد.
Jev چگونه میتواند مشکل توهم هوش مصنوعی را کاهش دهد؟
یکی از مشکلات شناختهشده در مدلهای زبانی بزرگ مانند ChatGPT، پدیدهای به نام توهم هوش مصنوعی (AI Hallucination) است؛ یعنی زمانی که مدل پاسخی تولید میکند که از نظر زبانی درست به نظر میرسد، اما از نظر واقعی اشتباه یا ساختگی است.
دیگو آلمیدا معتقد است مدل Jev با رویکرد متفاوت خود میتواند بخشی از این مشکل را کاهش دهد.
از آنجا که Jev متن آزاد تولید نمیکند و خروجی آن بر اساس احتمال و تصمیمهای از پیش تعریفشده است، فضای کمتری برای ایجاد پاسخهای خیالی باقی میماند.
به جای اینکه مدل جملهای مانند «این اتفاق قطعاً رخ داده است» تولید کند، میتواند میزان اطمینان خود درباره یک تصمیم را مشخص کند.
برای مثال، یک سیستم نرمافزاری میتواند بر اساس خروجی Jev تصمیم بگیرد که:
- یک درخواست را تأیید کند.
- آن را برای بررسی انسانی ارسال کند.
- یا به دلیل احتمال خطر، آن را رد کند.
این ویژگی برای کاربردهای حساس نرمافزاری اهمیت زیادی دارد.
استفاده از Jev برای کنترل عاملهای هوش مصنوعی
یکی دیگر از کاربردهای مهم Jev، نظارت بر عاملهای هوش مصنوعی (AI Agents) است.
عاملهای هوشمند، سیستمهایی هستند که میتوانند بهصورت خودکار برنامهریزی کنند، تصمیم بگیرند و چندین مرحله از یک کار را اجرا کنند.
اما افزایش استفاده از این عاملها یک مشکل ایجاد کرده است: چگونه میتوان عملکرد آنها را کنترل کرد؟
آلمیدا معتقد است استفاده از یک مدل زبانی بزرگ برای نظارت بر مدل زبانی دیگر، هزینه زیادی ایجاد میکند. در مقابل، Jev میتواند به عنوان یک سیستم بررسیکننده کمهزینه عمل کند.
این مدل میتواند:
- رفتار عاملهای هوش مصنوعی را بررسی کند.
- مسیر تصمیمگیری آنها را تحلیل کند.
- تلاش برای دور زدن محدودیتها (Jailbreak) را شناسایی کند.
به گفته او، Jev میتواند مانند یک لایه امنیتی هوشمند در کنار مدلهای بزرگتر فعالیت کند.
دیدگاه توسعهدهندگان درباره تصمیمهای احتمالی Jev
آرمین روناکر، مدیر فناوری شرکت Earendil و توسعهدهنده چارچوب متنباز Pi، معتقد است ویژگی مهم Jev این است که مدل به جای ارائه یک پاسخ قطعی، میزان اطمینان خود را نیز اعلام میکند.
به عنوان مثال، اگر مدل تنها ۵۰ درصد اطمینان داشته باشد، کاربر میتواند آن نتیجه را مانند یک حدس در نظر بگیرد؛ اما اگر میزان اطمینان به ۹۵ درصد برسد، میتوان با اطمینان بیشتری از آن در یک فرآیند خودکار استفاده کرد.
این قابلیت باعث میشود تصمیمگیری سیستمهای هوشمند قابل کنترلتر و قابل پیشبینیتر شود.
Jev میتواند هزینه استفاده از هوش مصنوعی را کاهش دهد
یکی دیگر از کاربردهای احتمالی این مدل، مسیریابی هوشمند مدلها (Model Routing) است.
در بسیاری از سیستمهای پیشرفته، همه درخواستها نیاز به استفاده از قدرتمندترین مدل هوش مصنوعی ندارند.
برای مثال:
- یک درخواست ساده ممکن است با یک مدل کوچکتر پاسخ داده شود.
- یک وظیفه پیچیده میتواند به مدل پیشرفتهتر منتقل شود.
استفاده از مدلهای زبانی بزرگ برای تشخیص این موضوع، هزینه زیادی دارد.
اما سرعت بالا و هزینه پایین Jev میتواند امکان تصمیمگیری لحظهای درباره انتخاب مدل مناسب را فراهم کند.
چرا نام این مدل Jev انتخاب شده است؟
نام Jev از ویلیام استنلی جونس (William Stanley Jevons)، اقتصاددان قرن نوزدهم گرفته شده است.
او نظریهای مطرح کرد که بعدها با عنوان پارادوکس جونس (Jevons Paradox) شناخته شد.
بر اساس این مفهوم، کاهش هزینه یک فناوری یا کالا معمولاً باعث کاهش استفاده از آن نمیشود؛ بلکه میتواند باعث افزایش گسترده مصرف آن شود.
آلمیدا معتقد است همین اتفاق ممکن است برای هوش مصنوعی رخ دهد.
او میگوید:
اگر هزینه هوشمندی دیجیتال کاهش پیدا کند، در آینده شاهد حضور گسترده نرمافزارهای هوشمند در بخشهای مختلف خواهیم بود.
از نگاه او، آینده هوش مصنوعی شبیه اینترنت اولیه خواهد بود؛ یعنی شبکهای گسترده از ابزارهای هوشمند کوچک و توزیعشده، نه فقط چند اپلیکیشن عظیم و متمرکز.
راز معماری Jev؛ مدلی متفاوت از مدلهای زبانی بزرگ
شرکت TypeSafe AI اطلاعات زیادی درباره معماری داخلی Jev منتشر نکرده است.
با این حال، برخی کارشناسان احتمال میدهند این مدل بر پایه یک مدل زبانی متنباز ساخته شده باشد.
این شرکت Jev را یک مدل System One معرفی میکند؛ مدلی که به جای تمرکز بر استدلال پیچیده، روی شهود، تشخیص سریع و انجام درست یک وظیفه مشخص تمرکز دارد.
برخلاف مدلهای رایج هوش مصنوعی که با حجم زیادی از دادههای انسانی آموزش داده میشوند، TypeSafe اعلام کرده است Jev تنها با دادههای مصنوعی آموزش دیده است.
این شرکت از روشی با نام:
یادگیری تقویتی از تصمیمهای کالیبرهشده (Reinforcement Learning from Calibrated Decisions)
استفاده میکند.
آلمیدا معتقد است سرمایهگذاری روی دادههای مصنوعی یکی از بهترین تصمیمهای تاریخ شرکت بوده است؛ حتی مهمتر از عرضه اولیه محصول یا توسعه روش RLHF.
آینده TypeSafe AI و نسل جدید مدلهای هوش مصنوعی
در حال حاضر Jev تنها مدل شناختهشده با چنین رویکردی است، اما کارشناسان انتظار دارند با مشخص شدن کاربردهای عملی آن، شرکتهای بیشتری وارد این حوزه شوند.
روناکر معتقد است بسیاری از این ایدهها میتوانستند زودتر مطرح شوند، اما ارزان بودن نسبی مدلهای زبانی بزرگ باعث شد توسعهدهندگان کمتر به دنبال روشهای جایگزین باشند.
TypeSafe AI نیز اعلام کرده قصد دارد نسخههای بیشتری از این مدل را برای کاربردهای مختلف توسعه دهد.
وقتی از آلمیدا پرسیده شد آیا TypeSafe یک آزمایشگاه پیشرو در حوزه هوش مصنوعی محسوب میشود، پاسخ داد:
هدف ما ساختن هوشمندی کاربردی است، نه ایجاد هیجان یا ترس درباره آینده هوش مصنوعی.
جمعبندی: آیا Jev مسیر جدیدی برای هوش مصنوعی باز میکند؟
مدل Jev نشان میدهد آینده هوش مصنوعی ممکن است فقط به سمت مدلهای بزرگتر و تولید متن بیشتر حرکت نکند.
در حالی که مدلهایی مانند ChatGPT توانایی فوقالعادهای در زبان طبیعی دارند، نسل جدیدی از مدلها ممکن است روی تصمیمگیری دقیق، سرعت بالا، هزینه کمتر و کنترلپذیری تمرکز کنند.
اگر رویکرد TypeSafe AI موفق شود، ممکن است شاهد ورود هوش مصنوعی به بخشهای بیشتری از نرمافزارها باشیم؛ جایی که میلیونها سیستم کوچک و هوشمند بدون نیاز به مدلهای عظیم، وظایف روزمره را سریعتر و دقیقتر انجام میدهند.