Sintakse:
Tā kā mēs esam pazīstami ar ChatGPT, mēs zinām, ka šī platforma pieder Open AI kopienai un nodrošina rīkus, arhitektūras, API un vairākus ietvarus, kurus mēs varam izmantot mūsu lietojumprogrammu un dabisko valodu apstrādes modeļu izvietošanai. Open AI piedāvā API, ar kuru palīdzību mēs varam izmantot jebkurus iepriekš apmācītus AI un NLP modeļus no Open AI platformas un var likt tiem darboties mūsu lietojumprogrammām, piemēram, lai sniegtu prognozes par reāllaika datiem. Tāpat GPT4All saviem lietotājiem nodrošina iepriekš apmācīto AI modeļu integrāciju ar dažādām lietojumprogrammām.
GPT4All modelis ir apmācīts, izmantojot ierobežotus datus, salīdzinot ar ChatGPT. Tam ir arī daži veiktspējas ierobežojumi salīdzinājumā ar ChatGPT, taču tas ļauj lietotājam izmantot savu privāto GPT vietējā aparatūrā, un tam nav nepieciešami nekādi tīkla savienojumi. Ar šī raksta palīdzību mēs uzzināsim, kā mēs varam izmantot GPT4All modeļus Python skriptā, jo GPT4All ir oficiāli saistījumi ar Python, kas nozīmē, ka mēs varam izmantot un integrēt GPT4All modeļus arī caur Python skriptu.
Lai instalētu Python IDE paredzēto GPT4All, ir nepieciešama tiešsaistes komanda. Pēc tam mēs varam integrēt tikpat daudz AI modeļu, cik mūsu lietojumprogrammas. Komanda, lai instalētu šo GPT4All Python, ir tāda, kā parādīts tālāk:
$ pip instalējiet gpt4all
1. piemērs:
Lai sāktu darbu ar šo piemēru, mums ir jālejupielādē un jāinstalē Python mūsu sistēmās. Ieteicamās Python versijas ir “versija 3.7” vai tās, kas nāca pēc šīs versijas. Vēl viens veids, kā strādāt ar Python, lai izvairītos no ilgstoša Python iestatīšanas instalēšanas procesa mūsu sistēmās, ir izmantot Google Colab, kas ir Python mākoņa vide. Mēs varam darbināt šo vidi jebkurā tīmekļa pārlūkprogrammā un varam izveidot AI un mašīnmācīšanās modeļus. Piemēri, kurus mēs šeit ieviesīsim, tiek izpildīti pakalpojumā Google Colab.
Šajā piemērā ir aprakstīta GPT4All instalēšanas metode Python un tā iepriekš apmācītu modeļu izmantošana. Vispirms instalējam GPT4All. Šim nolūkam tiek izpildīta komanda, kuru mēs iepriekš minējām. Ar komandas izpildi tiek lejupielādēts un instalēts GPT4All kopā ar tā pakotnēm un ietvariem.
Tagad mēs virzāmies uz priekšu. No GPT4All mēs importējam “GPT4All”. Tādējādi projektam tiek pievienoti visi iepriekš apmācītie modeļi no GPT4All. Tagad mēs varam izmantot jebkuru atsevišķu modeli un likt tam izpildīt mūsu lietojumprogrammas prognozes. Kad esam importējuši pakotni GPT4All, ir pienācis laiks izsaukt šo funkciju un izmantot GPT4All modeli, kas nodrošina “tērzēšanas pabeigšanas” rezultātu.
Citiem vārdiem sakot, ja mēs kaut ko prasām no šī modeļa ievadā, tas to atgriež izvadē. Šeit izmantotais modelis ir “ggml-gpt4all-j-v1.3-groovy”. Šie modeļi jau ir saglabāti GPT4All kešatmiņā. Mēs varam iegūt šos modeļus no šīs saites ' https://github.com/nomic-ai/gpt4all/tree/main/gpt4all-chat ” manuālai lejupielādei. Ja modelis jau atrodas GPT4All kešatmiņā, mēs vienkārši izsaucam modeļa nosaukumu un norādām to kā funkcijas “GPT4All()” ievades parametrus. Ja mēs to veiksmīgi lejupielādējām manuāli, mēs nododam ceļu uz mapi, kurā atrodas modelis. Tā kā šis modelis ir paredzēts ziņojuma pabeigšanai, šī modeļa sintakse ir norādīta šādi:
$ Chat_completion (ziņas)Ziņojumi ir vārdnīcu saraksts, un katrā vārdnīcā ir jāietver “lomas” atslēga ar lietotāja, sistēmas vai asistenta vērtību un “atslēgas” saturs, kura vērtība ir virkne. Šajā piemērā mēs norādām saturu kā “nosauciet trīs krāsas” un lomu atslēgu kā “lietotājs”.
$modelis= GPT4All('ggml-gpt4all-j-v1.3-groovy')$messages = [{'role': 'user', 'content': 'Nosauciet 3 ziedus'}]
Pēc šīs specifikācijas mēs kopā ar modeli izsaucam funkciju “chat_completion()”. Tam paredzētais kods tiek parādīts šādā izvadā:
$ !pip instalēt gpt4allno gpt4all importēt GPT4All
modelis = GPT4All('ggml-gpt4all-j-v1.3-groovy')
messages = [{'role': 'user', 'content': 'Nosauciet trīs krāsas'}]
model.chat_completion(ziņas)
Pēc šī piemēra izpildes modelis atgriež trīs krāsas kā atbildi uz ievadi.
2. piemērs:
Mēs aplūkojam vēl vienu piemēru, kurā mēs atklājam citu metodi GPT4All izmantošanai Python. To var izdarīt, izmantojot Python oficiālos saistījumus, ko nodrošina “Nomic”, kas ir atvērtā koda AI kopiena, un tajā darbojas GPT4All. Izmantojot šo komandu, mēs integrējam “nomic” mūsu Python konsolē:
$ pip instalēt nomicKad tas ir instalēts, mēs importējam GPT4All no “nomic.gpt4all”. Pēc GPT4All importēšanas mēs inicializējam GPT4All ar funkciju “open()”. Pēc tam mēs izsaucam funkciju “prompt()” un nododam uzvedni šai funkcijai. Pēc tam tiek ģenerēta tūlītēja atbilde, pamatojoties uz uzvedni, ko esam devuši kā ievadi uzvednes modelī.
!pip install nomicno nomic.gpt4all importējiet GPT4All
# Inicializējiet GPT4All modeli
iniciēt = GPT4Visi()
inici.open()
# Atbildes ģenerēšana, pamatojoties uz uzvedni
model_response = inici.prompt('uzrakstīt īsu stāstu par datoru)
# tiek parādīta ģenerētā atbilde
drukāt(model_response)
Izvadē tiek parādīta tūlītēja atbilde no modeļa, ko ģenerējām, izmantojot Python iepriekš apmācīto GPT4All modeli. Ja mēs vēlamies uzzināt vairāk par modeļiem un to, kā mēs varam izmantot šos modeļus, lai ģenerētu atbildes, vai vienkāršiem vārdiem sakot, ja vēlamies iegūt zināšanas par sintaksi, lai ģenerētu atbildes no šiem modeļiem, mēs varam saņemt papildu palīdzību no GPT4Visa informācija par tehnisko dokumentāciju.
Secinājums
GPT4All joprojām cenšas iegūt veiktspējas precizitāti. To vada nomic AI platforma, kuras mērķis ir nodrošināt lietotājiem mākslīgi inteliģentus tērzēšanas robotus patērētāju līmeņa centrālajos procesoros, jo GPT4All darbojas bez tīkla savienojuma un GPU. Šajā rakstā ir sniegta informācija par to, kā prasmīgi izmantot PyGPT4All Python vidē un izveidot mijiedarbību starp mūsu lietojumprogrammām un iepriekš apmācītajiem GPT4All AI modeļiem. Šajā rokasgrāmatā mēs apskatījām divas dažādas metodes, kā instalēt GPT4All programmā Python.