ili0820 commented 2 years ago

News

구글 AI, 대규모 다국어 음성-음성 번역 말뭉치 공개
- 21개 언어 영어로 음성-음성 번역 쌍 CVSS
- 메타의 다국어 음성-텍스트 번역 데이터 세트 'CoVoST 2 ST(음성-텍스트) 번역 코퍼스'에서 파생
- 음성-텍스트 번역 쌍을 TTS 사용하여 합성
- CVSS-C 합성해서 만든 새로운 목소리
- CVSS-T 원본 음성의 목소리 합성
메타 떠나는 AI 인재들…왜?
- AI 관련 인재들이 대거 회사를 떠났다
- Inflection.ai redefining human-computer interaction
- Linked in 공동 설립자 리드 호프만, 딥마인드 공동 설립자 무스타파 슐레이만, 비전 팩토리 공동 설립자 카렌 시모니얀
"일본에는 사람의 마음을 읽어 메뉴를 정해주는 AI 단말기가 있다고?"
- 메뉴를 돌아가면서 보여줌 -> 카메라로 표정 ,시선 추적 -> 긍정적인 표정 & 오랫동안 본 시간 기준 추천
- 그냥 설명을 오래 읽은 것? -> 긍정적인 표정 인지 판단
- 자체 데이터 셋으로 먹고 싶을 때 나오는 미묘한 표정 학습
구글, 5400억 매개변수 초대형 언어 모델 ‘PaLM’ 공개
- Pathways Language Model
- 5,400억 개의 매개변수( GPT3 약 3배)
- 트랜스포머(Transformer) 기반

Arxiv

Training Compute-Optimal Large Language Models
- Chinchilla (70B) outperforms much larger Gopher (280B), GPT-3 (175B), Jurrasic-1 (178B), MT-NLG (530B)
- for every doubling of model size the number of training tokens should also be doubled
MultiMAE: Multi-modal Multi-task Masked Autoencoders
- optionally accept additional modalities of information
- predicting multiple outputs besides the RGB image