구글 클라우드 인공지능 어텐션(주목) 메커니즘 퀴즈 Attention Mechanism AI

구글 클라우드 인공지능 어텐션(주목) 메커니즘 퀴즈 Attention Mechanism AI

​

구글의 일반 인공지능 개발자 관련 강좌에서 어텐션 메커니즘에 대한 내용 수강중 있는 퀴즈입니다.

어텐션 메커니즘에 관한 문제와 보기, 정답을 적어보았습니다.

정답은 앞에 v 표시로 확인 가능합니다.

​

​

어텐션(주목) 메커니즘 퀴즈 - 구글 클라우드

1.어텐션 메커니즘의 두 가지 주요 단계는 무엇인가요?

어텐션 가중치 계산 및 출력 단어 생성.

컨텍스트 벡터 계산 및 어텐션 가중치 생성.

v 어텐션 가중치 계산 및 컨텍스트 벡터 생성.

컨텍스트 벡터 계산 및 출력 단어 생성.

​

​

2.텍스트를 한 언어에서 다른 언어로 번역할 때 사용할 수 있는 머신러닝 아키텍처의 이름은 무엇인가요?

장단기 메모리(LSTM)

v 인코더-디코더

신경망

컨볼루셔널 신경망(CNN)

​

3.어텐션 메커니즘을 사용하면 전통적인 시퀀스-투-시퀀스(Seq2Seq) 모델에 비해 어떤 이점이 있나요?

어텐션 메커니즘을 사용하면 예측의 컴퓨팅 시간이 단축됩니다.

어텐션 메커니즘을 사용하면 모델에서 병렬 출력을 생성할 수 있습니다.

v 어텐션 메커니즘을 사용하면 모델이 입력 시퀀스의 특정 부분에 집중할 수 있습니다.

어텐션 메커니즘을 사용하면 모델이 단기 종속 항목만 학습할 수 있습니다.

​

4.신경망이 입력 시퀀스의 특정 부분에 집중할 수 있도록 하는 머신러닝 기술의 이름은 무엇인가요?

장단기 메모리(LSTM)

v 어텐션 메커니즘

인코더-디코더

컨볼루셔널 신경망(CNN)

​

5.어텐션 가중치의 용도는 무엇인가요?

입력 데이터만을 기준으로 출력 단어를 생성합니다.

입력 데이터에 점진적으로 노이즈를 적용합니다.

v 중요한 부분에 가장 높은 가중치가 적용되도록 입력 시퀀스의 각기 다른 부분마다 가중치를 할당합니다.

컨텍스트에 임베딩된 단어의 평균값을 구하여 컨텍스트 벡터를 계산합니다.

​

6.어텐션 모델은 전통적인 모델과 어떻게 다른가요?

디코더는 인코더의 최종 은닉 상태만 사용합니다.

전통적인 모델은 디코더에서 직접 입력 임베딩을 사용하여 더 많은 컨텍스트를 확보합니다.

v 어텐션 모델은 훨씬 더 많은 정보를 디코더에 전달합니다.

디코더는 추가 정보를 사용하지 않습니다.

​

7.어텐션 메커니즘을 사용하면 전통적인 순환 신경망(RNN) 인코더-디코더에 비해 어떤 이점이 있나요?

어텐션 메커니즘은 전통적인 RNN 인코더-디코더보다 필요한 CPU 스레드가 적습니다.

v 어텐션 메커니즘을 사용하면 디코더가 입력 시퀀스의 특정 부분에 집중할 수 있어 번역의 정확성이 개선될 수 있습니다.

어텐션 메커니즘은 전통적인 RNN 인코더-디코더보다 속도가 빠릅니다.

어텐션 메커니즘은 전통적인 RNN 인코더-디코더보다 더 비용 효율적입니다.

​

​

어텐션 메커니즘에 대해 잘 이해할수 있는 강좌였습니다.

문제 또한 어텐션 메커니즘에 중점적인 내용이여서 복습겸 익히기 좋았습니다.

 

끝!