קוד פתוח מקומי של לקוח LLM fullmoon התואם ל-iOS, macOS ו-visionOS שוחרר.

לקוח LLM המקומי בקוד פתוח "Fullmoon עבור iOS/macOS/visionOS" שוחרר. פרטים בהמשך.


Mainframe Computer, Inc., שהוקמה על ידי חבר Meta לשעבר Shivkanth Bagavathy ואחרים, הודיעה ב-14 בינואר 2025 לפי שעון מקומי שניתן להפעיל דגמי שפה בקנה מידה גדול (LLM) באופן פרטי ומקומי ב-iPhone, Mac ו-Vision Pro. לָקוּחַ"ירח מלא"אנחנו מכריזים שהוצאנו לאחרונה.

מיליארד פרמטרים בכיס שלך: השתמש ב-fullmoon כדי לשוחח עם דגמי שפות פרטיות ומקומיות גדולות כמו לאמה 3.2.
הדרך הפשוטה ביותר להשתמש ב-LLMs פרטיים: פועלת באופן לא מקוון ופרטי לחלוטין כשאין לך אינטרנט. מריץ דגמים במכשיר המותאמים עבור Apple silicon. עובד בכל פלטפורמה: iOS, iPadOS, macOS, visionOS

fullmoon: מודיעין מקומי - App Store

לדברי ג'ורדן סינגר מ-Mainframe Computer, Inc., fullmoon הוא לקוח LLM שמשתמש במסגרת MLX (MLX Swift) של אפל, אשר מותאמת עבור Apple Silicon, ותואמת ל-iOS, iPadOS, macOS ו-visionOS ערכות נושא של אפליקציות, גופנים והנחיות מערכת.

היום, בירח המלא הזה, אנחנו משיקים@fullmoonappב-App Store 🌕 זו הדרך הפשוטה ביותר להשתמש ב-LLMs מקומיים כמו לאמה

לאחר מספר חודשים של בדיקות, התאמנו אותו באופן מקורי לכל הפלטפורמות כולל iPhone, iPad, Mac ו-Vision

זה לגמרי בחינם ופתוח לגמרי...pic.twitter.com/MnPtrxbCiv

- ג'ורדן סינגר (@jsngr)13 בינואר 2025

נכון לעכשיו, ה-LLM המקומי היחיד הנתמך הוא פרמטרים של Meta 3.2 1B (1 מיליארד) ו-3B (3 מיליארד), אבל קוד המקור הוא קוד פתוח (MIT) והאפליקציה זמינה ב-App Store של אפל .

דרישות המערכת עבור fullmoon הן iPhone ו-iPad עם iOS/iPadOS 17.6 ואילך, Apple Silicon Mac עם macOS 14 Sonoma ואילך, ו-Vision Pro עם visionOS 2.0 ואילך, אז אם אתה מעוניין, אנא נסה זאת.