Attention (Figyelem)
Egy mechanizmus a neurális hálózatokban, amely lehetővé teszi a modell számára, hogy a bemeneti adatok bizonyos részeire fokozottabban koncentráljon. Ez alapvető a Transzformer architektúrák esetén.
Részletek megtekintése
MŰSZAKI
SZÓTÁR
A mesterséges intelligencia és az adattudomány precíz terminológiai jegyzéke. Technikai hitelesség, mérnöki megközelítés és strukturált ismeretanyag oktatók és hallgatók számára.
A terminológiai pontosság jelentősége
A mesterséges intelligencia (MI) területén a szakkifejezések pontos használata nem csupán szakmai igényesség, hanem a rendszerek tervezésének és implementálásának alapfeltétele. Ebben a szekcióban összegyűjtöttük azokat az alapfogalmakat, amelyek elengedhetetlenek a nyelvi modellek működési elvének megértéséhez. A mérnöki precizitás megközelítése szerint minden definíciónak egyértelműnek és visszakövethetőnek kell lennie a matematikai alapokig.
Az oktatási folyamatok során gyakran tapasztalható fogalmi keveredés a "gépi tanulás" és a "mélytanulás" között. Fontos rögzíteni, hogy míg az előbbi egy tágabb kategória, az utóbbi specifikusan a többrétegű neurális hálózatokra utal. A hallgatóknak és kutatóknak tisztában kell lenniük azzal, hogy a gépi tanulási algoritmusok alkalmazása során a paraméterek és hiperparaméterek közötti különbségtétel határozza meg a modell optimalizációs sikerét.
"A technológiai fejlődés üteme megköveteli a szótár folyamatos frissítését, mivel a transzformerek és a diffúziós modellek megjelenése alapjaiban írta át a korábbi definícióinkat."
A dokumentáció célja, hogy egységes nyelvezetet biztosítson a Markdex Hungary keretein belül zajló fejlesztésekhez. A pontos fogalomhasználat csökkenti a fejlesztési ciklusok során fellépő kommunikációs hibák kockázatát, és elősegíti a prompt mérnökség során alkalmazott instrukciók hatékonyságát. Hajtsa végre a terminológiai ellenőrzést minden projekt megkezdése előtt.
Navigációs segédlet
Terminológiai Index
Backpropagation
Hibavisszavezetési algoritmus, amelyet a neurális hálózatok súlyainak frissítésére használnak a gradiens alapú optimalizálás során. Ez a tanulási folyamat technikai motorja.
Algoritmus leírásaEmbedding (Beágyazás)
Szavak vagy tokenek numerikus vektorrá alakítása egy többdimenziós térben, ahol a szemantikailag hasonló fogalmak közelebb helyezkednek el egymáshoz.
Technikai alapokFine-tuning
Egy előre betanított modell további tanítása egy specifikus adathalmazon, hogy javítsák a teljesítményét egy meghatározott feladatkörben vagy stílusban.
Skálázási irányokLoss Function
Veszteségfüggvény, amely méri a különbséget a modell jóslata és a tényleges cél érték között. Az optimalizáló ezt az értéket próbálja minimalizálni.
Matematikai levezetésTokenization
A szöveg kisebb egységekre (tokenekre) való bontása, amelyeket a modell feldolgozni képes. Egy token lehet szó, szórészlet vagy írásjel.
Token optimalizálásMatematikai jelölések útmutatója
| Jelölés | Megnevezés | Alkalmazás az MI-ben |
|---|---|---|
| θ (Theta) | Modell paraméterek | A neurális hálózat összes tanítható súlyát és eltolását jelöli. |
| ∇J (Gradient) | Gradiens vektor | A veszteségfüggvény deriváltja a paraméterek szerint; megadja a súlyfrissítés irányát. |
| α (Alpha) | Tanulási ráta (Learning Rate) | Egy hiperparaméter, amely szabályozza a súlyfrissítések lépésközét. |
| σ (Sigma) | Szigma függvény | Gyakran használt aktivációs függvény (pl. Sigmoid), amely [0, 1] közé szorítja az értékeket. |
Megjegyzés: A jelölésrendszer követi az ISO 80000-2 szabványt a matematikai szimbólumok tekintetében. Javasoljuk a referencia anyagok tanulmányozását a haladó kalkulus kifejezésekhez.
450+
Definiált szakkifejezés
98%
Fogalmi pontosság
12
Kutatási kategória
24/7
Frissülő adatbázis
Rövidítések feloldása
Az alábbi lista segít eligazodni a technikai dokumentációkban gyakran előforduló betűszavak világában. Végezze el a rövidítések ellenőrzését a félreértések elkerülése érdekében.
LLM Large Language Model
NLP Natural Language Processing
GAN Generative Adversarial Network
RLHF Reinforcement Learning from Human Feedback
CNN Convolutional Neural Network
RAG Retrieval-Augmented Generation
API Application Programming Interface
GPU Graphics Processing Unit
Mélyítse el tudását a gyakorlatban
A terminológia ismerete csak az első lépés. Alkalmazza a tanultakat a gépi tanulási folyamatok során, és használja professzionális eszközeinket a hatékonyabb fejlődés érdekében.