System prompt tervezése

A system prompt szerepe

A system prompt (rendszerüzenet) állandó keretet ad a modell viselkedéséhez. Míg a felhasználói üzenetek az adott interakció feladatait írják le, a system prompt a modell identitását, korlátait és általános válaszolási szabályait határozza meg.

Transformer architektúra

Forrás: Wikimedia Commons — Transformer architektúra

Tervezési elemek

  • Szerepdefiníció: Ki vagy mit képvisel a modell.
  • Nyelvi beállítás: Milyen nyelven és stílusban válaszoljon.
  • Viselkedési szabályok: Mit tegyen és mit ne tegyen.
  • Kimeneti korlátok: Hossz, formátum, tartalmi határok.
  • Hibakezelés: Mit tegyen, ha nem tud válaszolni.

Sablon példa

Te egy technikai dokumentációs asszisztens vagy. Szabályok: - Válaszolj magyar nyelven, tömör stílusban. - Ha nem vagy biztos az információban, jelezd explicit módon. - Ne találj ki adatokat, statisztikákat vagy forrásokat. - A kódpéldákat ``` jelöléssel formázd. - Maximum 500 szó hosszúságú válaszokat adj, hacsak a felhasználó másként nem kéri.

Korlátok meghatározása

A system promptban érdemes explicit módon felsorolni, milyen tartalmakat nem generálhat a modell: személyes adatok, jogi tanácsok, orvosi diagnózisok vagy ellenőrizetlen tényállítások. A korlátok pontossága csökkenti a nem kívánt kimenetek valószínűségét.

A system prompt és a felhasználói prompt együttműködése kulcsfontosságú: ha a felhasználói utasítás ellentmond a system promptnak, a modell viselkedése előrejelezhetetlenné válhat. A tesztelés során ellenőrizni kell mindkét irányt.

Articles published on this website summarize publicly available information, industry research and educational materials.