AI Context Length

Apa Itu AI Context Length?

AI context length ialah setting yang menentukan berapa jumlah mesej terakhir yang Chatbot AI anda akan ingat.

Dengan kata lain, ini adalah sejarah perbualan yang disertakan untuk membantu AI memahami konteks semasa memberi jawapan.

Contoh Dalam Chatbot (10 Context Length)

1. Chatbot: "Hi! Boleh saya tahu nama anda?"

2. Pelanggan: "Nama saya Ali."

3. Chatbot: "Hai Ali! Apa yang boleh saya bantu hari ini?"

4. Pelanggan: "Apa promosi bulan ni?"

5. Chatbot: "Kami ada diskaun 20% untuk semua produk premium."

6. Pelanggan: "Berapa lama promosi ni berlangsung?"

7. Chatbot: "Promosi ini sah sehingga 31 Disember."

8. Pelanggan: "Boleh guna kod kupon ke?"

9. Chatbot: "Ya, masukkan kod DISKAUN20 masa checkout."

10. Pelanggan: "Terima kasih! Saya akan cuba."

11. Chatbot: "Sama-sama, Ali! Kalau ada apa-apa lagi yang Ali perlukan, jangan segan-segan untuk tanya, ya!"

Result : Perhatikan AI berjaya ingat nama customer adalah ALI pada mesej ke 11.

Cadangan Setting Context Length:

• Context Length: 20-40 mesej

• Kenapa: Fokus kepada soalan semasa tanpa perlu proses banyak mesej.

Tip Penting:

• Context length meningkatkan kualiti jawapan tetapi juga menggunakan lebih banyak token.

• Study conversation dengan customer anda yang lepas dan dapatkan average berapa jumlah conversation.

• Untuk chatbot yang fokus kepada soalan spesifik dan straight to the point, context pendek biasanya sudah memadai.

• Untuk chatbot jualan biasanya perlu lebih panjang, sebab kita nak ingat problem dan order history customer.