Yapay zeka modelleri akıllı telefonlara girerken, veri güvenliği ile ilgili söylem de hızla buhar kazanıyor. Özel nöral işleme birimlerine sahip premium cihazlar, AI görevlerinin bir kısmını cihazın kendisinde ele alabilir, ancak daha zorlu görevleri yerine getirmek için bulut işlemeye güvenir. Apple, AI sunucularını açmak için bazı AI işlemlerinden bazılarını dış kaynak kullanarak aynı rotaya gidiyor. Bu sizin için bir anlaşma kırıcı ise, ilgilenebileceğiniz bazı geçici çözümler var. Bugün size Android telefonunuzda LLM'leri yerel olarak çalıştırmanın en kolay yolunu sunuyoruz.
Muson Sezonu için En İyi 10 Yararlı Gadget (2024)
MLC sohbet uygulaması gitmeye değer mi?
MLC sohbet uygulaması, Android telefonunuzda yerel olarak bir dizi LLM çalıştırmayı mümkün kılar. Tabii ki, bu, Android telefonunuzun göreve bağlı yetenekli bir işlemciye sahip olması gerektiği anlamına gelir. Snapdragon 8 Gen 2 veya Gen 3'ü çalıştıran cihazlar bu görev için ideal olmalıdır. Bununla birlikte, bu, Android amiral geminizdeki sınırlı kaynakları kullanarak dil modellerini çalıştırırken gecikmeler veya hıçkırıklarla karşılaşmayacağınız anlamına gelmez.
Neyse ki, MLC Chat'in aralarından seçim yapabileceğiniz altı LLM var. Bu, Meta AI tarafından kullanılan Lama 3 gibi daha popüler modellerden bazılarını içerir. Çok daha yumuşak bir deneyim için Microsoft'un Phi 2 gibi küçük bir dil modeli de kullanabilirsiniz. MLC Chat kullanarak yalnızca LLM'lerle metin konuşmaları yapabileceğinizi söylemeye gerek yok. Görüntü üretimi gibi daha zorlu görevler sadece cihaz içi kaynakları kullanarak hala mümkün değildir.
MLC sohbetini kullanarak android telefonunuza yerel LLM'leri yükleyin ve çalıştırın
1. Adım: KurulumAndroid telefonunuzdaki MLC sohbet uygulamasıBu bağlantıyı kullanma.
- -
2. Adım:Uygulamayı üçüncü taraf bir kaynaktan indirdiğiniz için, web tarayıcısınıza vermeniz gerekecektir.izinMLC Chat'i bilinmeyen bir kaynaktan indirmek ve yüklemek için.
Önerilen Okuma:Windows 11'de Yerel Hesap Adı Nasıl Değiştirilir: Adım Adım Kılavuz
3. Adım: Öğle yemeğiTelefonunuzdaki MLC sohbet uygulaması.
4. Adım:Listesini gözden geçirmekBüyük Dil Modelleriteklifte. Bu makaleyi yazarken, MLC Chat: Gemma 2B, Lama 2 7B, Lama 3 8b Talep, Phi 2, Mistral 7b talimatı ve Redpajama Incite Chat 3B'de 6 llm var.
Adım 5:Vurmakaşağı ok simgesiCihazınıza indirmek için bir dil modelinin yanında.
Adım 6:Dokunsohbet simgesiAI modeli ile bir konuşma başlatmak için.
Sık Sorulan Sorular (SSS)
Android telefonumda bir cihaz içi AI modelini nasıl çalıştırabilirim?
MLC sohbet uygulamasını telefonunuzdan indirin, bir LLM seçin ve AI modeliyle bir konuşma başlatmak için sohbet simgesine basın. Tüm AI işleme cihazınızda gerçekleşecek ve bir bulut sunucusuna dış kaynaklı olmayacak.
Bir cihaz içi AI modelini çalıştırmak için telefonumun ne kadar güçlü olması gerekiyor?
MLC sohbet uygulaması, telefonunuzda bir LLM çalıştırmak için özel bir NPU gerektirmez. Ancak, Snapdragon 8 Gen 2 (veya daha fazla) gibi güçlü bir yonga setine sahip bir akıllı telefon kullanmanız önerilir.
WhatsApp'taki Meta AI cihazımdaki işlemini yapıyor mu?
Hayır, WhatsApp'taki Meta AI chatbot işlemini bir bulut sunucusuna dışa aktarır. Beslediğiniz veriler cihazınızla sınırlı değildir.
Google Parola Yöneticisi'ni (2024) kullanarak ailenizle parola nasıl paylaşılır
Çözüm
ANDROID telefonunuzda cihaz içi LLM'leri yerel olarak bu şekilde çalıştırabilirsiniz. LLM'ler çok güç talep edici olduğundan, cihazınızda Lama 2 gibi ağır AI modellerini kullanırken sık sık kapatma bekleyin. Telefonunuzda işleme gücünden yoksunsa, Phi 2 gibi hafif bir LLM kullanmanızı öneririz.