السير ثاديوس: مساعد الذكاء الاصطناعي المحلي أولاً لنظام ويندوز للنماذج الصغيرة
السير ثاديوس، الذي طورته RaydeStar، هو مساعد ذكاء اصطناعي محلي أولاً ومساحة عمل لنظام Windows مصممة للحفاظ على البيانات على الجهاز. يتصل التطبيق بواجهات LLM المحلية إلى بروتوكول سياق النموذج لتشغيل المحادثات، ومنح الوصول المصرح به إلى الأدوات المحلية، والحفاظ على الذاكرة المستمرة عبر الجلسات. يتضمن تحويل الكلام إلى نص محلي وتحويل النص إلى كلام ودعائم مدفوعة بالأدلة. تؤكد مساحة العمل على إمكانية التدقيق والمعالجة القابلة للتفتيش على الجهاز للمهام الحساسة.
يعمل كمساعد محلي ومضيف أدوات مرخصة
التطبيق يوفر مساعدة قائمة على الدردشة، واجهة صوتية أولى، وذاكرة دائمة تحافظ على السياق بين الجلسات. يتصل بخلفيات LLM المحلية مثل Ollama أو LM Studio ويعمل كمضيف MCP حتى يتمكن المساعد من الوصول إلى الأدوات المحلية فقط بموافقة صريحة من المستخدم. تشمل النتائج النموذجية حل المشكلات الحوارية، استدعاءات الأدوات المبرمجة، والتفاعلات المدفوعة بالصوت دون توجيه المطالبات عبر واجهات برمجة التطبيقات الخارجية.
النماذج الصغيرة تنتج نتائج أكثر قابلية للاستخدام عند تنسيقها
يطبق التطبيق نهج هيكل مدفوع بالأدلة لهيكلة المطالبات واستدعاءات الأدوات بحيث يمكن للنماذج اللغوية الأصغر إكمال المهام متعددة الخطوات بشكل أكثر موثوقية على الأجهزة المتواضعة. يستهدف هذا التصميم وحدات المعالجة المركزية الاستهلاكية القياسية بدلاً من وحدات معالجة الرسوميات عالية الأداء، مما يحسن إكمال المهام العملية لنماذج SLM. يقلل الجمع بين الاستدلال المحلي والهيكل من الاعتماد على النماذج البعيدة الأكبر للعديد من سير العمل اليومية.
المعالجة المحلية تقلل من التعرض الخارجي ولكن تتطلب خدمات محلية
تحافظ بنية الأولوية المحلية على الاستدلال، وتحويل الكلام إلى نص، وتحويل النص إلى كلام على الجهاز، بحيث لا تحتاج الصوتيات والمطالبات إلى واجهات برمجة التطبيقات السحابية للعمليات الأساسية. قاعدة الشيفرة متاحة بموجب ترخيص Apache 2.0، مما يجعل التنفيذ قابلاً للتفتيش، ونموذج إذن MCP يجبر على الحصول على موافقة صريحة قبل أن يصل المساعد إلى البيانات أو الأدوات المحلية. يجب على المستخدمين تكوين مزود LLM محلي متوافق أو خادم MCP للحصول على الوظائف الكاملة.
التبني يناسب المستخدمين الفنيين والباحثين أكثر من المبتدئين
نظرًا لأن التطبيق يعتمد على نقطة نهاية LLM المحلية أو بيئة متوافقة مع MCP، فإنه يفترض المعرفة باستضافة Ollama وLM Studio أو نقاط النهاية المتوافقة مع OpenAI. تم بناؤه على .NET مع واجهة مستخدم سطح المكتب Avalonia لنظام Windows، مما يبسط نشر المطورين ولكنه يخلق منحنى إعداد للمستخدمين العاديين. يدعم الترخيص مفتوح المصدر أولئك الذين ينوون توسيع أو تدقيق سير العمل.
الأكثر ملاءمة للممارسين العمليين الذين يركزون على الخصوصية والذين يقبلون استثمارًا في الإعداد
تقوم التطبيق بمكافأة المستخدمين الذين يديرون نقاط النهاية المحلية والأذونات من خلال تقديم عمليات قابلة للتفتيش على الجهاز وزيادات عملية في الهياكل للنماذج الصغيرة. خطط لاستثمار الوقت في ضبط المطالبات والأذونات والتحقق يدويًا من المخرجات للقرارات ذات المخاطر العالية بدلاً من اعتبارها موثوقة. بالنسبة للباحثين ومستخدمي المطورين، فإنه يوفر مساحة عمل قابلة للتحكم؛ يجب أن يتوقع المستخدمون العاديون منحنى إعداد ملحوظ.
