TFN에 Attention 메커니즘을 추가

Transformer 사전 지식

PCD에서의 Attention:

• Query, Key, Value: 일반적인 Transformer에서는 query, key, value가 각각 다른 시점에서의 정보인데, SE(3)-Transformer에서는 각 포인트 자체가 query, key, value로 사용된다. 즉, 하나의 포인트가 query가 되어 이웃한 다른 포인트들(key들)에 대해 얼마나 중요한지(attention)를 계산하고, 그 값(value)들을 결합하여 최종 출력을 생성한다.

• 쿼리 벡터(Query vector):

  • 쿼리 벡터는 각 포인트로부터 생성되며, 이 포인트가 다른 포인트들로부터 정보를 수집할 때 참조하는 기준. 쉽게 말해, "이 포인트는 어떤 정보를 중점적으로 수집할까?"에 대한 질문을 던지는 벡터.
  • 예를 들어, 포인트 A에서 나온 쿼리 벡터는 A가 주변의 다른 포인트들(B, C 등)로부터 어떤 정보를 수집할지를 결정할 때 사용.

• 값 벡터(Value vector):

  • 값 벡터는 포인트 자체의 정보를 담고 있다. 즉, 각 포인트의 고유한 특징 정보가 값 벡터에 들어 있으며, 다른 포인트가 이 값을 참조할 때 사용할 데이터를 의미.
  • 예를 들어, 포인트 B의 값 벡터는 포인트 B 자체의 고유한 정보를 담고 있으며, 쿼리 벡터가 이 값을 참조할 때 사용된다.

• 키 벡터(Key vector):

  • 각 포인트의 특성을 압축적으로 표현한 벡터로 쿼리 벡터와의 유사도 계산에 사용.
  • 예를 들어, 포인트 A의 쿼리 벡터 QA는 다른 포인트들의 키 벡터 KB,KC와의 유사도를 계산하여, 포인트 B나 C가 A에게 얼마나 중요한지 결정한다.
  • 쉽게 말해, 쿼리 벡터가 누구와 연결될지를 결정하는 기준점 역할을 키 벡터가 한다.

GNN에서의 Attention 구조:

• 입력 특징을 바탕으로 노드(포인트) 간의 가중치를 계산한다. 이 가중치는 두 노드 간의 유사도나 거리 정보 등을 바탕으로 한다.
• 가중치가 계산되면, 각 노드는 자신의 이웃 노드들로부터 정보를 모아 가중치에 따라 그 정보를 합산하여 자신의 출력을 만든다.