DLVGen: Pendekatan Variabel Laten Ganda untuk Generasi Dialog yang Dipersonalisasi


Generasi dialog yang dipersonalisasi adalah tugas untuk menghasilkan koheren, dialog lancar konsisten dengan kepribadian tertentu. Namun, dalam pendekatan saat ini, beberapa contoh dialog yang sesuai dengan persona agen dialog masih diperlukan untuk menyempurnakan model.

Kredit gambar: John Jackson melalui pexels.com, lisensi gratis

Sebuah makalah baru-baru ini di arXiv.org mengusulkan Generator Variabel Laten Ganda baru untuk pembuatan dialog yang dipersonalisasi. Itu tidak bergantung pada informasi kepribadian atau contoh dialog yang sesuai. Respon yang dihasilkan hanya diberikan konteks dialog.

Berlawanan dengan kerangka kerja sebelumnya, model yang diusulkan baik distribusi laten atas respons dialog potensial maupun distribusi laten atas persona potensial agen. Selain itu, para peneliti memperkenalkan teknik regularisasi varians dan metode pemilihan keragaman leksikal untuk meningkatkan kualitas respons yang dihasilkan dalam hal konsistensi persona dan kemiripan manusia.

Generasi dialog yang dipersonalisasi sangat penting untuk percakapan yang alami dan seperti manusia. Biasanya, model generasi dialog yang dipersonalisasi melibatkan pengkondisian respons yang dihasilkan pada sejarah dialog dan representasi persona/kepribadian lawan bicara. Karena tidak praktis untuk mendapatkan representasi persona/kepribadian untuk setiap lawan bicara, karya-karya terbaru telah mengeksplorasi kemungkinan menghasilkan dialog yang dipersonalisasi dengan menyempurnakan model dengan contoh-contoh dialog yang sesuai dengan persona yang diberikan. Namun, dalam implementasi dunia nyata, cukup banyak contoh dialog yang sesuai juga jarang tersedia. Oleh karena itu, dalam makalah ini, kami mengusulkan Generator Variabel Laten Ganda (DLVGen) yang mampu menghasilkan dialog yang dipersonalisasi tanpa adanya informasi persona/kepribadian atau contoh dialog yang sesuai. Tidak seperti pekerjaan sebelumnya, DLVGen memodelkan distribusi laten atas respons potensial serta distribusi laten atas persona potensial agen. Selama inferensi, variabel laten diambil sampel dari kedua distribusi dan dimasukkan ke dalam dekoder. Hasil empiris menunjukkan bahwa DLVGen mampu menghasilkan tanggapan beragam yang secara akurat menggabungkan persona agen.

Makalah penelitian: Lee, JY, Aik Lee, K., dan Gan, WS, “DLVGen: Pendekatan Variabel Laten Ganda untuk Generasi Dialog yang Dipersonalisasi”, 2021. Tautan: https://arxiv.org/abs/2111.11363




Pos terkait