Skip to main content
  1. Artikel-artikel/
  2. Artificial Intelligence/

Menjalankan AI di Laptop atau PC menggunakan Ollama

·746 words·4 mins· loading · loading · ·
Development Ai Artificial-Intelligence Ollama Localhost Open-Web-Ui
Humaedi
Author
Humaedi
Halo, nama saya Humaedi 👋. Saya seorang CEO of Akaktekno.id & { full-stack developer } Bekerjalah seakan hidup abadi, beribadah seakan mau mati, jangan lupa☕️ untuk mendapat inspirasi.
ollama-2 - This article is part of a series.
Part : This Article

Halo para seniman yang budiman! Selamat datang kembali! Pada kesempatan kali ini, kita akan membahas cara menjalankan Artificial Intelligence (AI) di laptop atau PC Anda dengan mudah. Panduan ini akan memberikan langkah-langkah yang singkat untuk membantu Anda memulai, tentunya dengan menyesuaikan langkah-langkah ini dengan spesifikasi hardware masing-masing.

Panduan Menjalankan Artificial Intelligence (AI) di Laptop atau PC
#

Mengapa AI di Laptop atau PC?
#

Kemajuan dalam teknologi AI telah membuka banyak peluang bagi individu untuk melakukan eksperimen dan proyek mereka sendiri di komputer pribadi. Mulai dari pengembangan model machine learning hingga membuat aplikasi AI yang canggih, kemampuan untuk menjalankan AI di laptop atau PC sangatlah berharga. Namun, hal ini membutuhkan perangkat lunak yang tepat dan hardware yang memadai.

Langkah Pertama: Menginstall Ollama
#

Apa itu Ollama?
#

Ollama adalah platform yang memungkinkan Anda menjalankan model AI di komputer lokal Anda. Dengan Ollama, Anda dapat mengakses berbagai model AI yang dapat diunduh dan digunakan untuk berbagai aplikasi.

Langkah-langkah Instalasi:
#

  1. Unduh Ollama: Langkah pertama adalah mengunduh Ollama dari situs resmi Ollama. Pilih versi yang sesuai dengan sistem operasi Anda (Windows, macOS, atau Linux).
    Ollama Download
  2. Instal Ollama: Setelah mengunduh, ikuti petunjuk instalasi yang diberikan. Pastikan Anda menginstal semua dependensi yang diperlukan agar Ollama dapat berjalan dengan baik di sistem Anda.

Mengunduh dan Menjalankan Model AI:
#

Ollama Models

  1. Unduh Model AI: Kunjungi perpustakaan model Ollama untuk memilih model yang ingin Anda gunakan. Model-model ini bervariasi dalam ukuran dan kemampuan.

  2. Jalankan Model AI: Setelah mengunduh model, Anda dapat menjalankannya dengan perintah berikut (contoh untuk model Gemma dengan parameter 2B):

    ollama run gemma:2b
    

    Ollama Models gemma:2b

Untuk tampilan running di terminal ini kurang menarik untuk di lakukan, untuk itu kita perlu menyiapkan antar muka yang nyaman untuk digunakan.

Ollama Run Terminal

Penjelasan Ukuran Model AI (1B, 2B, 7B, 16B, dll)
#

Ukuran model AI dinyatakan dalam miliaran parameter (B). Semakin besar ukuran parameter suatu model AI, semakin besar pula file model tersebut. Hal ini berarti spesifikasi hardware komputer Anda harus semakin tinggi untuk bisa menjalankan model tersebut dengan lancar. Contohnya:

  • 1B: Cocok untuk laptop dengan spesifikasi standar.
  • 2B: Membutuhkan komputer dengan RAM yang lebih besar.
  • 7B: Idealnya dijalankan di workstation atau laptop kelas atas.
  • 16B: Membutuhkan komputer dengan spesifikasi sangat tinggi, seperti server atau workstation dengan RAM dan GPU yang kuat.

Langkah Kedua: Menggunakan Open Web UI
#

Open Web UI

Apa itu Open Web UI?
#

Open Web UI adalah antarmuka web yang memungkinkan Anda berinteraksi dengan model AI melalui tampilan yang menarik dan intuitif. Ini mirip dengan antarmuka ChatGPT yang populer, memberikan kemudahan penggunaan bagi pengguna.

Langkah-langkah Instalasi dan Penggunaan:
#

  1. Mengunduh Open Web UI:

  2. Menjalankan Open Web UI:

    • Menggunakan Docker: Docker adalah platform yang memungkinkan Anda menjalankan aplikasi dalam lingkungan yang terisolasi. Ini sangat memudahkan instalasi dan pengelolaan dependensi.

      docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
      
    • Menggunakan Python 3: Jika Anda lebih nyaman menggunakan Python, Anda dapat mengunduh dan menjalankan Open Web UI dengan Python 3. Pastikan Anda telah menginstal semua dependensi yang diperlukan, yang bisa ditemukan dalam dokumentasi.

      git clone https://github.com/open-webui/open-webui.git
      cd open-webui/backend
      pip install -r requirements.txt
      python main.py
      
    • instalasi dengan pip(Beta): Bagi pengguna yang lebih suka menggunakan pengelola paket Python pip.

      Instal Open WebUI : Buka terminal Anda dan jalankan perintah berikut:

      pip install open-webui
      

      Mulai Open WebUI : Setelah terinstal, mulai server menggunakan:

      open-webui serve
      

      Metode ini menginstal semua dependensi yang diperlukan dan memulai Open WebUI, sehingga memungkinkan pengaturan yang sederhana dan efisien. Setelah instalasi,

Dokumentasi dan Bantuan
#

Untuk dokumentasi lengkap mengenai cara menjalankan dan mengkonfigurasi Open Web UI, Anda bisa mengunjungi dokumentasi resmi Open Web UI. Dokumentasi ini menyediakan panduan langkah demi langkah, serta solusi untuk masalah umum yang mungkin Anda hadapi.

Kesimpulan
#

Anda dapat menjalankan model AI di laptop atau PC Anda dengan mudah. Pastikan untuk menyesuaikan pilihan model dan konfigurasi sistem sesuai dengan spesifikasi hardware Anda. Dengan kombinasi Ollama dan Open Web UI, Anda akan memiliki alat yang kuat untuk mengeksplorasi dan mengembangkan aplikasi AI Anda sendiri. Selamat mencoba dan semoga berhasil!

Jika Anda memiliki pertanyaan atau membutuhkan bantuan lebih lanjut, jangan ragu untuk mencari panduan tambahan atau komunitas yang berkaitan dengan Ollama dan Open Web UI. Dukungan komunitas sering kali sangat membantu dalam memecahkan masalah dan memberikan tips berguna.

Kita akhiri dulu pembahasan pada bagian ini. Nantikan bagian kedua yang akan mengupas lebih lanjut tentang konsumsi API dari Ollama lewat Open Web UI. Sampai jumpa di artikel berikutnya, dan terima kasih sudah membaca!

ollama-2 - This article is part of a series.
Part : This Article

Related

Tutorial Laravel 11 Sharing Auth 2
·470 words·3 mins· loading · loading
Development Php Framework Laravel
Halo para seniman yang budiman!
Tutorial Laravel 11 Sharing Auth 1
·703 words·4 mins· loading · loading
Development Php Framework Laravel
Halo para seniman yang budiman!
Mapping Multiple Markers Coordinate
·479 words·3 mins· loading · loading
Openstreetmaps Mapping Multiple-Markers Gmaps Lang-Lat
Halo para seniman yang budiman!