독서 및 학습 기록

생각과 교훈

RNN과 CNN을 완전히 자체 주의(self-attention) 메커니즘으로 대체하며 트랜스포머 아키텍처의 포문을 연 기념비적인 논문입니다.

와닿은 문장

• "주요 시퀀스 변환 모델들은 복잡한 순환 신경망이나 컨볼루션 신경망을 기반으로 하고 있습니다..."

생각과 교훈

소프트웨어 설계 원칙, 컴포넌트 경계 설계, 수년에 걸쳐 코드를 우아하게 유지하기 위한 디커플링 전략을 설명합니다.

와닿은 문장

• "빨리 가는 유일한 방법은 제대로 가는 것이다."

생각과 교훈

소프트웨어 2.0 패러다임, 신경망 학습 역학, 테슬라 오토파일럿의 진화 방향성에 관한 심도 깊은 인터뷰입니다.