爱因互动 吴金龙 对话机器人中的语义匹配技术

CodeWarrior

2019/07/08 发布于 编程 分类

GIAC2019 

文字内容
3. • • • • • •
4. • • • • • • • • • • • • • • • • • • •
5. • • • • • • • • • vs
7. • • • • • •
8. • Point-wise Loss • Cross Entropy • - y log S(Q, D)
9. Pair-wise Loss • • Hinge loss • max{0,margin-(S(Q,D+)-S(Q,D-))} • Logistic loss • logistic_func(S(Q,D+)-S(Q,D-))
10.
12. • •
17. • à
19. • • • •
20. • • •
21. • •
22.
23.
24.
25. • • •
27.
28. • • • • • • • • •
29.
30. • • • • • • • • • • • • • • •
31. • • NLP
32. • • • • •
33.
34. • •
36. DeepBot
37. • •
38.
39.
40. Inter-Attn Intra-Attn
41.
42. • •/
43. • Fine tuning vs Siamese 1 0.95 0.9 0.85 0.8 0.75 0.7 E QQ F QA BERT with Fine Tuning G QA BERT + Siamese
44. • • • • • • • • • !
45. Q1: Q2: Q1: Q2: Q1: Q2:
46. • •
47. • • • • • •
48. NLP/Chatbot
49. • • • • •