Chapter17. Reasoning over Knowledge Graphs
What is knowledge Graph?
Graph์์ Knowledge๋ค์ entities / types / relationships๋ก ๋๋์ด์ ธ ์์. ๊ฐ node๋ค์ ๊ณ ์ ์ entitles(์ด๋ฆ ๊ฐ์ ๊ฒ๋ค)์ด ์์ผ๋ฉฐ ๊ทธ์ ๋ํ type์ด ์ ํด์ ธ์์. ๋ node๋ค์ Edge๋ก relationship์ ํํํ ์ ์๋ค.
ex) '๋ฐ์งํ'์ด๋ผ๋ node๋ '์ฌ๋'์ด๋ผ๋ type์ผ๋ก labelling ๋์ด ์์ผ๋ฉฐ, 'ํฌ๋น ์ค'๋ผ๋ node(type์ club)์ member๋ผ๋ relationship์ ๊ฐ์ง๊ณ ์๋ค. ์ ๊ฐ์ด ํํ์ด ๋๋ ๊ฒ์ด๋ค.
๊ทธ๋์ ์ด๊ฑธ QA๋ชจ๋ธ์๋ ์ ์ฉํ ์ ์๋ค. (QA๋ชจ๋ธ๋ ๋ชจ๋ฅด๋๋ฐ ์ด๊ฑธ ๋ด๊ฐ ํ๋ค๋ ๊ฑด ๋ฌด์์ธ๊ฐ ์๋ชป๋๋ค๋ ๊ฑธ ์ด์์ ์์ ๋๊ผ๋ฐ)
์ฆ ์ ๊ทธ๋ฆผ๊ณผ๊ฐ์ด, ์ถ์๊ฐ์ฌ์ , travel, NY๊ณผ ๊ฐ์ ํค์๋๊ฐ ์์ผ๋ฉด, NY ์ ์ํด์๋ JFK ๊ณตํญ, Thanks giving์ ํด๋นํ๋ ์ฐ๊ด ๋ ธ๋๋ค์ ์ ๊ทผํด answer๋ฅผ ์ ๋ํ ์ ์๊ฒ ๋๋ ๊ฒ์ด๋ค
๊ทธ๋ฌ๋ knowledge graph๋ผ๊ณ ๋ณผ ์ ์๋ ๋๋ถ๋ถ์ ๊ฒ๋ค์ (์ํคํผ๋์๋ฅผ ์๊ฐํด๋ณด์)
Massiveํ๊ณ
Incomplete ํ๋ค
-> ๊ทธ๋ ๋ค๋ฉด missing edge๋ค์ ๊ฝค ์ ์ฐ๊ฒฐํ ์ ์๋ ๋ฐฉ๋ฒ์ด ์์๊น?
Embedding
Freebase๋ผ๋ ๊ณณ์ ์๋ ๋ฐ์ดํฐ๋ฅด ๋ชจ๋ธ๋ก ๋ฌ๋ณด์. KG์์๋ edge๋ ํฌ๊ฒ ์ธ ๊ฐ์ง ์ํ๋ก ํํ์ด ๋๋ค.
์์์ (head), ๋์ฐฉ์ (tail), ๊ทธ๋ฆฌ๊ณ ๊ทธ ๋ ธ๋์ ๊ด๊ณ(relationship).
๊ทธ๋์ ํต์ฌ ์์ด๋์ด๋ entitles์ realtion์ ์์ฃผ ์ modelingํด๋ณด์๋ ๊ฒ์ด๋ค. true (h,r,t)๊ฐ ์์๋ ์ด๋ฅผ ์ด์ฉํด (h,r)์ ์๋ฒ ๋ฉ ํด๋ณด์๋ ๊ฒ์ด ๋ชฉํ์ด๋ค.
๋ค๋ง ๊ทธ ์ ์ relation์ ๊ฒฝ์ฐ๋ ๋ช ๊ฐ์ง ํน์ํ ๊ฒฝ์ฐ๋ค์ด์๋ค.
Symmetric Relation : A ์ B๋ symmetricํด์ผํ๋ ๊ฒฝ์ฐ๊ฐ ๋ง๋ค. ์ด๋ค ๊ฐ์กฑ์ ๊ตฌ์ฑ์๋ค์ ์๋ก๊ฐ์ ๊ด๊ณ๊ฐ ๊ฐ์กฑ์ด๋ฉฐ, ์ด๋ ์ง๋จ์ ๋ฌด๋ฆฌ๊ฐ ์์ผ๋ฉด ๊ทธ ์ง๋จ ๋ด์์ ๊ฐ ์ฌ๋๋ค์ ๊ด๊ณ๋ friends์ผ๊ฒ์ด๋ค.
Compostion Relation : ๋์ ์๋น ์ ๊ด๊ณ๋ ๋์ ์๋ง์ ๊ด๊ณ + ์๋ง์ ๋จํธ์ ๊ด๊ณ์ด๋ค. ์ฆ, ๋๋ผ๋ ๋ฒกํฐ์ ์๋ง๋ผ๋ ๋ฒกํฐ์ ๋จํธ์ด๋ผ๋ ๋ฒกํฐ๋ฅผ ํฉ์น๋ฉด ์๋น ๋ผ๋ ๋ฒกํฐ๊ฐ ๋์์ผํ๋ค.
1 - to -N, N-to-1 ํฌ๋น ์ค๋ผ๋ entity์ ํฌ๋น ์ค ๋ฉค๋ฒ๋ค์ entity์ ๊ด๊ณ๋ ๋ชจ๋ ํฌ๋น ์ค ๋ฉค๋ฒ์ ๋ํด member of๊ฐ ๋๋ค. ์ฆ, ํ๋์ entity์ ํน์ ํ ๋ฒกํฐ๋ค๋ฅผ ์ฐ์ฐํ๋ฉด ์ฌ๋ฌ relationship์ด์๊ธธ ์ ์๋ค.
์ฌ์ค, Node์ Edge๋ฅผ embeddingํ๋ ๋ฐฉ๋ฒ์ ์์์ ํ๋ ๋ฐฐ์ ๋ค.
Trans_E head + realationship = Tail์ด ๋์ค๊ฒ๋ embeddingํ๋ ๊ฒ์ด๋ค. ๋ค๋ง ์ด๋ ๊ฒ ๋๋ฉด ํฐ ๋ฌธ์ ๊ฐ ๋ฐ์ํ๋ค.
Symmetric : h + r= t, t+r = h๋ฅผ ๋ชจ๋ ๋ง์กฑํด์ผํ๋ค. ์ฆ t - r = t + r, r= 0์ด ๋๋ค. ์ฆ ๋์นญ์ ์ธ ๋ฒกํฐ๋ ์กด์ฌํ ์ ์๊ฒ ๋๋ค.
composition : ์ด๊ฒ์ ์๋ง ๋ฒกํฐ + ๋จํธ ๋ฒกํฐ = ์๋น ๋ฒกํฐ ๊ฐ ๋์ค๊ฒ ํ ์ ์์ผ๋ฏ๋ก ์ฑ๋ฆฝํ๋ค.
1 to N : ํฌ๋น ์ค๋ผ๋ ๋ฒกํฐ์ ๋ฉค๋ฒ ๋ฒกํฐ๋ฅผ ๋ํ๋ฉด ํฌ๋น ์ค ๋ฉค๋ฒ๋ค์ด ๋์์ผํ์ง๋ง, ์ด๋ ๊ฒ ํ๊ฒ ๋๋ฉด ๋ฉค๋ฒ ๋ฒกํฐ๊ฐ ํ๋๋ฐ์ ๋์ค์ง ์๋๋ค.
=> ์ ๋ฌธ์ ๋ค์ ์ข ํฉํด๋ณด๋ฉด Trans_E๋ ์๋ฒ ๋ฉํ๊ธฐ์ ์ข์ง ๋ชปํ ์๋จ์ด๋ค.
Trans_R
TransR์ ๋ค์๊ณผ ๊ฐ์ด ๋ชจ๋ธ๋ง ํ๋๊ฒ์ด๋ค. relation์ Matrix๋ฅผ ์ด์ฉํด ๋ง๋ค๊ณ , head vector์ Matrix๋ฅผ ๊ณฑํ๋ฉด head projection (Vector space์ ํฌ๊ธฐ๋ ๊ฐ๋ค)๊ณผ tail projection์ด ๋์จ๋ค. ๊ทธ๋ฆฌ๊ณ relation์
|hใ + r - tใ |๋ก ์ ์ํ๋ ๊ฒ์ด๋ค.
์ด์ ๋ฐ์ ธ๋ณด์
Symmetric : ํํ๊ฐ
2. 1 to N, N to 1 : ํํ๊ฐ
3. Composition Relation => ๋ถ๊ฐ
์ฌ๊ธฐ์ ์ฃผ์ํด์ผํ ์ ์ Mr์ ๋ชจ๋ relation์ ๋ํด ์กด์ฌํ๋ค๋ ๊ฒ์ด๋ค.
Path Query
์ด ๋ Query๋ ์ด 4๊ฐ์ง ์ข ๋ฅ๊ฐ ์กด์ฌํ๋๋ฐ ๊ฐ๊ฐ ์ด๋ค ์ญํ ์ ํ๋ ์ง ์์๋ณด์
One-hop Queries๋ ๋จ์ํ๋ค A์ B์ ๊ด๊ณ๊ฐ r์ด๋ผ๋ฉด A๋ผ๋ ์์์ ๊ณผ r์ด๋ผ๋ ๊ด๊ณ๊ฐ ์ฃผ์ด์ก์ ๋ B๋ก๋๋ฌํ ์ ์๋ ๊ฒ์ด๋ค.
์ฌ๊ธฐ์ ์๋ก๋์ค๋ ๊ฐ๋ ์ Path ์ด๋ค. ์ด๋ค ์ด์ด์ง๋ ๊ฒ๋ค์ด ์์ ๋, ์ด๊ฒ๋ค์ ์ด๋ป๊ฒ ๊ณ์ฐํ ๊น? ์ผ๋จ ์ ์๋ ๋ค์๊ณผ ๊ฐ์ ๋ฐฉ์์ผ๋ก ํํํ๋ค. ์์์ Va์ relation์ ๋ํ๋ด๋ r๋ฒกํฐ๋ค์ ํตํด ๋ํ๋ธ๋ค.
๊ทธ๋ฆฌ๊ณ ๋ค์๊ณผ ๊ฐ์ด ๊ณ์ฐ๋๋ค
๋จผ์ r๋ฒกํฐ๋ฅผ ํตํด ๊ทธ์ ํด๋นํ๋ Entity๋ก ์ด๋ํ๊ณ ๋ ๊ฑฐ๊ธฐ์ r2๋ฒกํฐ๋ฅผ ํตํด ๋ ๊ทธ์ ํด๋นํ๋ ๋ฒกํฐ๋ก ์ด๋ํ๋ค. ์ฆ ๋์ํํ๊ฒ๋๋ฉด
์ ๊ฐ์ด ํํ์ด ๋๋ ๊ฒ์ด๋ค. ๊ทธ๋ฐ๋ฐ ์ค์ KG๋ ๋งค์ฐ๋งค์ฐ ๋ง์ node๋ค๊ณผ ์ฐ๊ฒฐ์ด ๋์ด์๋ค. ์ฆ Path๊ฐ ๊ธธ์ด์ง๋ฉด ๊ธธ์ด์ง์๋ก Geometricํ๊ฒ ๊ฒฝ๋ก๊ฐ ๊ธธ์ด์ง๊ฒ ๋๋ ๊ฒ์ด๋ค.
๊ทธ๋ ๊ธฐ ๋๋ฌธ์ ์ฐ๋ฆฌ๋ transE๋ฅผ ์ด์ฉํด Path๋ฅผ ํ๋ฒ์ ์๋ฒ ๋ฉํ ๊ฒ์ด๋ค.
์ฆ ์ด๋ฐ ์์ผ๋ก ์ฌ๋ฌ ๋ฒกํฐ๋ฅผ ํ ๋ฒ์ ์ด๋ํจ์ผ๋ก์จ ์ฐ์ฐ์ ์ค์ผ ์ ์๋ค.์ฆ ๋๋์ ์น๊ตฌ๋ค์ด๋ผ๊ณ ํ๋ฉด ๋๋ ๋ผ๋ ๊ด๊ณ๋ฅผ ๋ชจ๋ ์ฐพ์์ ์ด๋ํ ๋ค, ๊ฑฐ๊ธฐ์ ์น๊ตฌ๋ฒกํฐ๋ค์ ๋ค์ ๋ค ์ฐพ์๊ฐ๋ ๊ฒ๋ณด๋ค๋ ๋๋ + ์น๊ตฌ ๋ฒกํฐ๋ฅผ ํด์ ํ ๋ฒ์ ๋๋ฌํ๊ฒํ๋ ๊ฒ์ด ํจ์จ์ ์ด๋ผ๋ ๊ฒ์ด๋ค. (๊ทธ๋ฐ๋ฐ, ์ด๋ฌ๋ฉด ์น๊ตฌ์๋น ๋ ์๋น ์น๊ตฌ๋ ๊ตฌ๋ถ์ด ์๋์ง์๋..?)
๋ ๊ด๋ จ ๋ ผ๋ฌธ์ ์ฐพ์๋ณด๋ฉด
์ด๋ฌํ ๋ด์ฉ๋ ์ฐพ์๋ณผ ์ ์๋๋ฐ, ๋ง์ฝ ์๋น ๋ผ๋ ๋ฒกํฐ๊ฐ ์ํ์ด๋ผ๊ณ ํ๋ฉด ๋์ ์๋น ๋ก ์ด๋ํ๋๋ฐ ๋ ธ์ด์ฆ๊ฐ ์ฝ๊ฐ ๋๋ค. ๊ทธ๋ฐ๋ฐ ์๋น ์ ์๋น ๋ฒกํฐ์ธ ํ ์๋ฒ์ง ๋ฒกํฐ๊ฐ ๊ฐ๊ฒ๋๋ฉด ์ด ์๋ฌ๊ฐ ๊ฐ์๋ก ์ปค์ง๊ฒ ๋๋ ๊ฒ์ด๋ค. ์ด๋ฌํ ๊ด์ ์์๋, ์์์ + relation ๋ฒกํฐ๋ค์ ๋ํด์ ๋์จ q๋ฒกํฐ์ ์ค์ ๋์ฐฉํด์ผํ๋ ์ ์ธ v๋ฒกํฐ๋ฅผ ํตํด ๊ณ์ฐํ๋ ๊ฒ์ ๋ถ๋ช ์ด์ ์ด ์กด์ฌํ๋ค.
Conjunctive Queries(๋
ผ๋ฆฌ๊ณฑ~)
Conjunctive๋ผ๋ ๋ง์ ์ฝ๊ฒ ๋งํด์ And๋ผ๊ณ ์๊ฐํ๋ฉด ๋๋ค. ์ฆ Canadian์ด๋ฉด์ Turning award ์์์๋..? ์ ์ฐพ์ ๋ ์ด๋ป๊ฒ ์ฐพ์์ผํ ๊น?
์ด๋ฐ์์ผ๋ก Canadian + Citizen์ ๋จผ์ ๊ตฌํ๊ณ Turing Award + win์ ๊ตฌํด์ ๋ intersection(๊ต์ฐจ๋ถ๋ถ..?)์ ๊ตฌํ๋ ๊ฒ์ด๋ค. ์ฌ์ค ์ง๊ด์ ์ธ Projection์ ์ด๋ฌํ๋ฐ ์ ๋ ๊ฒ ๋ฒกํฐ๊ฐ ๋ฒ๋ฒ ๋ง๊ฒ ๋จ์ด์ง๊น?
ํ์ค์ ์ด๋ ๋ค.. ๋ ๋ถ๋ถ์ q1๊ณผ q2์ ๊ต์ ์ ์ฐพ์์ผํ๋๋ฐ ํ์ค์ ์ผ๋ก ๊ต์ ์ด ์๊ธธ๋ฆฌ๊ฐ ์๋ค. ๊ทธ๋ ๊ธฐ๋๋ฌธ์ ๊ทธ ๋๋ถ๋ถ์ด ๊ต์ฐจํ๋ ์ ๊ตฌํด์ผํ ๊ฒ์ด๋ค. ์ ๊ทธ๋ฆผ๋ง ๋ณด๋ฉด ์ฐ๋ฆฌ๋ ํํค๊ณผ ๋ฒค์ง์ค๊ฐ ์ฌ์ด์ด๋๊ฐ๋ฅผ ๊ต์ ์ด๋ผ๋ ๊ฒ์ ์ ์ ์๋ค. ๊ทธ๋ฐ๋ฐ ์ด๋ฐ ์ง๊ด์ ์ธ ๊ฒฝ์ฐ๊ฐ ์๋๋ผ๋ฉด InterSection์ ๊ตฌํ๋ ๊ฒ์ ํฐ ๋ฌธ์ ๊ฐ ๋๋ ๊ฒ์ด๋ค.
์์ฆ ์ฐ๋ฆฌ๋, ๋ฅ๋ฌ๋์ ์๋์ ์ด๊ณ ์๋ค. ๋ชจ๋ฅด๊ฒ ์ผ๋ฉด Neural Network๋ฅผ ๋์ ํ์. ํ์ฌ query๋ค์ input์ผ๋ก ๋๊ณ output์ intersection point ๋์ค๊ฒ NN์ ๋ง๋ค์ด๋ณด์.
๋ค์๊ณผ ๊ฐ์ด, ๊ฐ ๋ฒกํฐ๋ค์ ๋ฃ๋๋ฐ permutation invariantํ๋ค.. ์บ๋๋ค์ธ์ธ ์ฐ์น์๋, ์ฐ์น์์ธ ์บ๋๋ค์ธ์ด๋ ๊ฐ์ผ๋ ์ง๊ด์ ์ผ๋ก๋ ๋น์ฐํ๋ค.
๋ค์๊ณผ ๊ฐ์ด, ๋ชจ๋ ๋ฒกํฐ๋ฅผ ๋ฃ๊ณ Neural Network๋ฅผ ํต๊ณผํ๊ณ ์ ์ฒด๋ฅผ Meanํ๋ค. ์์ GCNํ ๋๋ ์ฐ๊ฒฐ๋ ๋ชจ๋ ๋ ธ๋๋ค์ ํ๊ท ์ ๋ด๋ ๊ฒ์ฒ๋ผ ๊ทธ๋ํ์์๋ ํ๊ท ์ ๋ด๋๊ฒ ์์ฃผ ์์ ๋กญ๋ค. ๊ทธ ์ดํ ๋ค์ ๋คํธ์ํฌ๋ฅผ ํต๊ณผ์์ผ intersction์ ์ป์ ์ ์๊ฒ ๋๋ค.
๋ค์๊ณผ ๊ฐ์ด ๊ตฌํด์ง๋ ๊ฒ์ด๋ค. q1๊ณผ q2์ intersection์ ๊ตฌํ๊ณ ๊ทธ ๋ฒกํฐ์ graduate ๋ฒกํฐ๋ฅผ ๊ตฌํด ๊ทธ ์ด์๋ค์ answer๋ก ๊ตฌํ๋ ๊ฒ์ด๋ค.
์ฌ๊ธฐ์ ํ์ด๋ ๋ฒ ํ๋ graph size์ ์ํฅ์ ๋ฐ์ง ์๋ ํ๋ผ๋ฏธํฐ๋ก ํธ๋ ์ด๋ ํ ์ ์๋ค.
Box Query
์์์ intersection์ ์์ญ์ ๊ตฌํ ๋ (ํน์ ๋ฒกํฐ์์ ๊ฐ๊น์ด ๊ฒ๋ค์ ๊ตฌํ ๋) ์ฌ๋์ด ์กฐ์ ํ๊ธฐ ๋๋ฌธ์ ์ง๊ด์ ์ด์ง ์๋ค๋ ์ ์ด ์๋ค. ๊ทธ๋์ ์ฐ๋ฆฌ๋ ์๋ก์ด Box query๋ผ๋ ๊ฒ์ ๋์ ํ๋ค.
Box Embeddings : queries๋ฅผ hyper rectangle๋ก emneddingํ๋ ๊ฒ
๋ค์๊ณผ๊ฐ์ด Center์ offset์ผ๋ก ์ ์ํ ์ ์๋ค.์ฌ๊ธฐ์ offset์ q์ ๊ฐ์ dimension์ธ๋ฐ ๊ฐ dimension๋ณ๋ก ์ด๋์ ๋์ offset์ ๊ฐ์ง์ง ๊ฒฐ์ ํ๋ ๊ฒ์ด๋ค.
์ด ๋ parameter๋ค์ ๋ค์๊ณผ ๊ฐ์๋ฐ ์๋ฏธ๋ฅผ ์ ์ดํด๋ณด.
entity embedding์ d์ dimension์ด๊ณ ๊ณต๊ฐ์์์ ํ ์ ์ ๋ํ๋ด๋ ๊ฒ์ด๋ค. ๊ณต๊ฐ์์ ํ ์ ์ ๊ฒฐ๊ตญ offset์ด 0์ด๊ณ Center๊ฐ entity embedding์ ๋ํ๋ธ๋ค๊ณ ํ ์ ์๋ค. relation embedding์ ์์ 2๊ฐ ๋ถ๋๋ฐ ์ ์์์ ์ ์ํ๋ฏ, Center์ Offset์ด ๋ชจ๋ ์๊ธฐ ๋๋ฌธ์ด๋ค.
๋ํ Geometricํ ์ฐ์ฐ์ผ๋ก Box X Relation = Box๋ผ๋ ๊ฒฐ๊ณผ๊ฐ ๋์ค๋๋ฐ, ์ฌ์ค ์ X๋ผ๋ ์ฐ์ฐ์ ์ผ๋ ์ง๋ ์ ๋ชจ๋ฅด๊ฒ ์ง๋ง, ์ด๋ค ๋ ์ ์ ๋ํ ๋๋, Center๋ผ๋ฆฌ ๋ํด์ ์๋ก์ด Center๋ฅผ ๋ง๋ค๊ณ offset๋ผ๋ฆฌ ๋ํด์ ์๋ก์ด offset์ ๋ง๋ค๊ฒ ๋๋ค. (๋ง์ฝ, entity๋ผ๋ฉด ๊ฐ์ offset์ ๊ฐ์ง๊ณ ์ค์ฌ๋ง ์ด๋ํ ๊ฒ์ด๋ค) ์ด๋ ๊ฒ ๋๋ฉด ๊ฒฐ๊ตญ ์ ์ฒด ๋ฐ์ค์ ํฌ๊ธฐ๋ ๊ฐ์๋ก ์ปค์ง๊ฒ ๋ ๊ฒ์ด๋ค.
๊ทธ๋ ๋ค๋ฉด Box X Box์ Operation์ ์ด๋ป๊ฒ๋ ๊น?
๋ค์๊ณผ ๊ฐ์ ์์ผ๋ก ์ฐพ๊ฒ ๋๋ค. ๊ทธ๋ฐ๋ฐ ๊ทธ๋ฆผ์์๋ ๊ทธ๋ฅ ๋ค ๊ฒน์น๋ ๋ถ๋ถ๋ง์ ์ฐพ์์ง๋ง, ์๋ก์ด ๋ฒกํฐ๋ ๋ค๋ฅธ ๋ฐฉ์์ผ๋ก ์ ์๋๋ค.
์ผ๋จ ์๋ก์ด Center๋ ๊ธฐ์กด box๋ค์ weighted sum์ด๋ผ๊ณ ํ ์ ์๋ค. ์ด๋ฌํ weight๋ ํ์ต๋๋ ๊ฒ์ด๋ผ๊ณ ์๊ฐํ๋ฉด ๋๋ค. ๊ทธ๋ฆฌ๊ณ offset์๊ฒฝ์ฐ ์ผ๋จ mean ๊ฐ์ ์ทจํ๊ธฐ ๋๋ฌธ์, intersection์ด ์๊ธฐ๋ฉด offset์ด ์ค์ด๋ ๋ค. ๊ทธ๋ฐ๋ฐ ์ deepsets์ ์กฐ๊ต๋ ๋ง์ ์์๋ฃ๊ธฐ๊ฐ ํ๋ค์ด..(์ฌ์ค count๋ผ๊ณ ๋ ํ๋๋ฐ count๊ฐ ์ง์ง ๋ด๊ฐ ์ดํดํ ๊ฒ์ด ๋ง๋์ง๋ ๋ชจ๋ฅด๊ฒ ์ด์ ํด๋น ๋ ผ๋ฌธ์ ์ฝ์ด๋ณด์๋ค.)
ํด๋น ๋ ผ๋ฌธ์์๋ ๊ฐ ๋ฒกํฐ๋ฅผ Mlp์ ๋ฃ๊ณ ํ๊ท ๋ธ ๊ฒ์ ๋ค์ MLP์ ๋ฃ๋๋ค. ์๋ง input์ d (๋ฒกํฐ ์คํ์ด์ค์ ์ฐจ์)์ ๋ชจ๋ Set์ ๋ํด mlp์ ๋ฃ๊ณ ๊ทธ mlp์ output์ d dimension์ด ๋ ๊ฒ์ด๋ค. ๊ทธ๊ฒ ๋ค์ ๋ฃ์ด์ (dXN) ์ฐจ์์ returnํ๋ ๊ฒ ๊ฐ๋ค.
๊ฒฐ๊ตญ ๋ค์๊ณผ ๊ฐ์ด ์ง๊ดํ๋๋ค.
๊ทธ๋ฆฌ๊ณ ์ด ์๋ True node์ box์ ๊ฑฐ๋ฆฌ๋ ๋ค์๊ณผ ๊ฐ์ด ์ ์๋๋ค.
๋ก์ค๋ TransE์ ๋น์ทํ๊ฒ ์ ์๋๋ค.
๋ฐ์ค์์ ์์ด์ผํ ๊ฒ๋ค์ ๊ฑฐ๋ฆฌ๋ฅผ ์ต๋ํ ์ค์ด๊ณ , ๋ฐ์ค๋ฐ์ ์์ด์ผํ ๊ฒ์ ๊ฑฐ๋ฆฌ๋ฅด ์ต๋ํ ํ๋ ๋ฐฉํฅ์ผ๋ก ํธ๋ ์ด๋ํด์ผํ๋ค.
์ด๋ ๊ฒ query๋ฅผ ๋ฐ์ค๋ก ์๋ฒ ๋ฉํ๋ฉด ์์์ ๋ง์กฑํด์ผํ๋, symmetric composition 1toN์ด ๋ชจ๋ ๋ง์กฑ๋๋ค.
๊ฐ์์์๋ ์ค๋ช ํ์ง๋ ์์์ง๋ง symmetric์ด ์ฝ๊ฐ ๋น์ง๊ด์ ์ด์ฌ ์ด์ง ์ง๊ณ ๋์ด๊ฐ์
symmetric์ ๊ฒฝ์ฐ Cen(r)์ 0์ผ๋ก ํ๋ฉด ๋๋ค. ์ฆ, head์ tail์ ๊ฒฝ์ฐ ๋๋ผ๋ entity๊ฐ ์๊ณ , ๊ฑฐ๊ธฐ์ Offset๋ง ๋ํ๋ฉด ๊ทธ offset ๋ฒ์๋ด์ ์๋ง๊ฐ ์์ผ๋ฉด ๋๊ณ , ์๋ง entity์์ offset์ ๊ตฌํ๋ฉด ๋ ๊ทธ ๋ฒ์์ ๋ด๊ฐ ์์ ๊ฒ์ด๋ค. ๋ฐ๋ผ์ symmetric์ ๊ฒฝ์ฐ Cen(r)์ด 0๊ฐ๋ผ์ผํ๋ค.
Composition๊ณผ 1toN์ ๊ฒฝ์ฐ๋ ์๋ช ํ๋ค.
*EPFO query? : Conjunctive + disjunction query => and + or query! ์บ๋๋ค์ธ์ด๋ฉด์ turing์ด๋ ๋ ธ๋ฒจ์๋ฐ์ ์กธ์ ์? ๊ณผ ๊ฐ์ด and์ or์ด ๋ชจ๋ ๋ค์ด๊ฐ ์ฟผ๋ฆฌ์ ๊ฒฝ์ฐ์๋ box๋ฅผ ์ด์ฉํด์ ์ ์๋ฒ ๋ฉํ ์ ์๊ณ ํ๋ค.
Experiment
์คํ๋ถ๋ถ์ ๊ฒฐ๊ณผ๊ฐ ๋ง์์ ํผํผํฐ๋ก~
Last updated