[20210801] Weekly AI ArXiv 만담

[jungwoo-ha]

• AI News
  • ACL 2021: 8.1 ~ 6, Tutorial, Main conference, Workshop
  • NeurIPS review: 우리시간 8월 4일 새벽이 될 듯
  • CVPR2021 논문 흥행도: https://mattdeitke.com/cvpr-buzz/
  • OpenAI Triton: https://openai.com/blog/triton/
  • Document: https://triton-lang.org/
  • AI가 만든 지재권은? https://www.hankyung.com/politics/article/202107311971i
  • 미중 AI 패권전쟁: https://www.hellot.net/news/article.html?no=60237
  • K-AI Hub: https://news.naver.com/main/read.naver?mode=LSD&mid=shm&sid1=105&oid=092&aid=0002229244

• ArXiv

  • Go Wider Instead of Deeper

  • MHSA 블럭내에 FC --> MoE 구조

  • MHSA와 MoE는 block 간 sharing, LN만 블럭별로 --> 그렇게 파라미터를 절약

  • FaVIQ: FAct Verification from Information-seeking Questions

  • 새로운 Fact check dataset (고대 + UW)

  • https://faviq.github.io/

  • Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in Natural Language Processing

  • Hyperscale LM 등장에 따른 새로운 패러다임인 prompt-based learning in PLM 정리

  • 관련 주제 연구자들이 집단지성으로 social research survey를 만드는 느낌.

  • 메인페이지에 연구 토픽별로 중요 논문들이 리스트업 --> Prompt-based Large-scale PLM 최신 논문이나 연구 파악에 유용해 보임

  • 본인의 연구논문을 paperlist에 직접 업로드 + promotion 가능

  • http://pretrain.nlpedia.ai/

  • Image Scene Graph Generation (SGG) Benchmark

  • Image scene graph (object들의 attribute 와 relation 까지 detecting) generation 을 위한 벤치마크 + 코드 (from MS)

  • mask-rcnn + Visual Genome & Openimages data

  • https://github.com/microsoft/scene_graph_benchmark

  • Transfer Learning in Electronic Health Records through Clinical Concept Embedding

  • EHR 데이터에 대한 pretraining embedding과 이에 기반한 transfer learning 분석 (U. of Oxford)

  • 질병 embedding 학습, embedding 평가 방법,

  • 310만 환자 EHR 데이터 (CPRD 데이터)

  • xMoCo: Cross Momentum Contrastive Learning for Open-Domain Question Answering

  • Open domain QA의 dense retrieval model 학습을 위한 MoCo기반의 contrastive SSL

  • MoCo는 둘다 이미지지만 여긴 Question, Passage라 생겨 먹은게 달라서 모델 개선이 필요

  • 그래서 둘다 각각 fast / slow (moving average) encoder

  • AutoTinyBERT: Automatic Hyper-parameter Optimization for Efficient Pre-trained Language Models

  • 작은 스케일 PLM (BERT) 만들기 위한 evolutionary algorithm 활용 hyperparam optimization 기법 (화웨이+칭화대)

  • SuperPLM을 원샷으로 학습하고 latency constraint 걸어 모델을 깍아나가는 세팅

  • NAS-BERT나 DistillBERT보다 정확도도 좋고 효율적이라고..

  • https://github.com/huawei-noah/Pretrained-Language-Model/tree/master/AutoTinyBERT

  • 실제 응용서비스 적용을 위해 PLM 깍으실 필요가 있는 분들께 유용할 듯?

[ghlee3401]

Paper

• Cross-speaker Style Transfer with Prosody Bottleneck in Neural Speech Synthesis

  • Sample : https://peterpanseu.github.io/index.html
  • Conference : INTERSPEECH2021
  • Problem
    1. 기존의 style transfer 방법은 하나의 reference speech에서 하나의 임베딩을 추출하는데 이는 임의의 텍스트에 대해서 세분화된 운율 정보를 제공하지는 않음
    2. style은 텍스트의 내용, speech의 운율, 화자의 음색 등이 얽혀되어 있기 때문에 style일 변경 시 만족스러운 결과를 얻기 힘듦
  • Method
    1. Transformer TTS 기반의 모델
    2. Speaker, Style embedding은 128 dim 의 look-up table (style : reading, chat, story-telling style, emotional state (happy and sad)
    3. Prosody feature : f0, voiced/unvoiced decision, duration, energy
  • Contribution
    • 화자의 감정과 같은 스타일을 잘 전달하고 prosody control이 가능함

• Neural Remixer: Learning to Remix Music with Interactive Control

  • Problem : 녹음이나 리믹스를 재구성하기 위해서 악기를 개별적으로 조작하는 작업이 필요하지만, 소스가 개별적으로 녹음된 상황이 아니면 다루기 어려움
  • Method
    • SOTA source separation model, Conv-TasNet 을 이용하되 source 간 loss도 뿐만 아니라 최종 remix된 output 간 loss도 사용
    • Model-1 : weight를 최종 source output에 적용
    • Model-2 : weight를 decoder 입력 전에 적용 (단, weight의 합은 1)
  • Contribution
    • remix quality를 높였다.

• Neural Mix Pro

  • 음악을 넣으면 실시간으로 vocal / harmonic / drums 으로 separation 해주고 pitch, 리듬 등을 조절 가능
  • Neural Mix Pro 홈페이지 : https://www.algoriddim.com/neural-mix
  • Neural Mix Pro 관련 유튜브 : https://youtu.be/grwM-ZcwuvU

[veritas9872]

ICCV 2021 Accepted Papers List (Unofficial): https://github.com/amusi/ICCV2021-Papers-with-Code

ICCV 2021의 결과가 나오면서 많은 수의 Computer Vision Paper가 Arxiv에 업로드 되었습니다.

아직 공식적인 목록은 아니지만 비공식적으로 Accepted Papers List가 정리되었습니다.

많은 참조 부탁드립니다.

[jungwoo-ha]

@veritas9872 인간적으로 글로벌리 보는 거면 영어로좀 해주면 좋을텐데 말이죠 ㅎㅎㅎ

[Kyung-Min]

Paper

• CauseRec: Counterfactual User Sequence Synthesis for Sequential Recommendation (SIGIR 2021): https://dl.acm.org/doi/abs/10.1145/3404835.3462908
  • 추천시스템에서 유저 representation을 잘 학습하기 위해 observational 로그로부터 counterfactual 로그를 생성
  • counterfactual 로그는 observational 로그 중 일부 아이템에 intervention을 가한 것
  • observational 로그의 items를 크게 두 가지 타입으로 구분, indispensable/dispensable, 그리고 counterfactual 로그로써 negative/positive sample을 생성하기 위해 indispensable/dispensable 아이템을 각각 다른 아이템으로 replace 시킴
  • original/positive/negative sample로부터 metric learning 수행
  • 

[Clyde21c]

Med-BERT: pretrained contextualized embeddings on largescale structured electronic health records for disease prediction

• npj digital medicine
• 미국내 600여개 병원의 2천만명 환자 EHR (Cerner)
• 진단 코드 이상의 context를 학습하기위한 Domain-specific pretraining task로서 입원기간 예측
• Fined-tunned task로는 당뇨병환자의 심부전 & 췌장암 예측
• 다른 task, 적은 데이터, 다른 EHR DB(Truven) 를 사용한 Pretrained EHR모델의 real-world generalizability 검증 의의

Improving Early Sepsis Prediction with Multi Modal Learning

• AWS AI Labs
• 폐혈증(sepsis)의 조기 예측
• multi modal NLP모델 : structured data에 의료진의 clinical note 추가
• 6만명 중환자실 오픈데이터 MIMIC-III

[hollobit]

Artificial intelligence can now be recognised as an inventor after historic Australian court decision

• https://www.abc.net.au/news/2021-08-01/historic-decision-allows-ai-to-be-recognised-as-an-inventor/100339264
• "device for the autonomous bootstrapping of unified sentience", DABUS
• 호주 연방 법원의 조나단 비치 판사는 "an inventor … can be an artificial intelligence system or device"는 판결

Apple’s Machine Learning Researchers Have Developed A No-Code AI Platform Called ‘Trinity’ For Complex Spatial Datasets

• https://www.marktechpost.com/2021/07/23/apples-machine-learning-researchers-have-developed-a-no-code-ai-platform-called-trinity-for-complex-spatial-datasets/
• https://www.codingworldnews.com/news/articleView.html?idxno=4978

NSF partnerships expand National AI Research Institutes to 40 states

• https://www.nsf.gov/news/news_summ.jsp?cntn_id=303176

Hundreds of AI tools have been built to catch covid. None of them helped

• https://www.technologyreview.com/2021/07/30/1030329/machine-learning-ai-failed-covid-hospital-diagnosis-pandemic/
• https://www.turing.ac.uk/sites/default/files/2021-06/data-science-and-ai-in-the-age-of-covid_full-report_2.pdf
• https://www.bmj.com/content/369/bmj.m1328
• 참조1 - Common pitfalls and recommendations for using machine learning to detect and prognosticate for COVID-19 using chest radiographs and CT scans - Nature Machine Intelligence https://www.nature.com/articles/s42256-021-00307-0
• 참조 2 - AI for radiographic COVID-19 detection selects shortcuts over signal - Nature Machine Intelligence https://www.nature.com/articles/s42256-021-00338-7

"AI와 데이터 분석은 개인화된 의료의 핵심 요소"...미국 의료계 대세가 된 AI

• http://www.aitimes.com/news/articleView.html?idxno=139910

[veritas9872]

제가 CVPR Buzz를 조금 읽어보고 있었는데 링크만 조금 바꾼다면 다른 학회 등에도 어렵지 않게 사용할 수 있을 것 같습니다. 잘하면 Arxiv Sanity 경쟁 웹사이트 만드실 수도 있을 것 같습니다. ㅋㅋㅋ 예를 들면 한국인 저자가 있는 논문만 리스트를 작성하거나 특정 대학교의 논문만 사용하는 방식으로 사이트를 새로 만들어볼 수 있을 것 같습니다.

[jungwoo-ha]

@veritas9872 네 소스코드도 공개되어 있어서 accepted paper list만 확보하면 어렵지 않게 가능할 것 같네용.

[veritas9872]

https://blogs.windows.com/windows-insider/2021/07/22/announcing-windows-11-insider-preview-build-22000-100/ Windows 11이 beta channel로 이동했습니다! 저도 지금 Windows 11에서 작업을 진행하는 중인데 딥러닝을 하는 연구자에게는 드디어 Windows에서 CUDA Docker를 사용할 수 있다는 점이라고 생각됩니다. 실제로 PyTorch를 실행했을 때 잘 작동하는 것을 확인했습니다. 또한, WSL에서 Windows11에서 GUI 앱이 실행되니 윈도우 사용자 분들 사용해보시면 좋을 것 같습니다.