AI Safety 이해를 위한 용어

https://channeltech.naver.com/contentDetail/86 AI 기술의 올바른 활용을 위해 사용자들의 AI윤리에 대한 이해와 관심에서 클릭한 내용이다.

전례없는 기회를 제공하는 동시에 윤리적이고 안전한 AI가 될 수 있도록 해야한다.
- 인간의 고유한 창의성을 침해할 수도,
- 저작권을 누구에게 주는가에 대한 문제도,
- 인종,종교,성별 등에 대한 편향된 문제도 고려해야한다.
창의력이 필요한 응용 분야에서는 유용할 수 있지만, 신뢰성 저하, 의사 결정의 혼선, 윤리적/법적 문제를 유발할 수 있기 때문에 주의해야한다.

잘 설계된 올바른 데이터로 학습을 시켜 범죄에 AI기술이 사용되지 않도록 해야한다. 윤리로 여겨지던 규범이나 인류 보편적 가치를 해치는 일이 일어나지 않도록 주의를 기울여야한다.

Hallucination 할루시네이션
- 컨텐츠 생성 과정에서 실제 데이터나 사실을 반영하지 않고 비현실적이거나 오류를 포함한 내용을 만들어내는 경우, 할루시네이션 환각을 부른다.
DeepFake
프론티어 AI
- ex. ChatGPT
AGI ( Artificial General Intelligence )
- AI와 AGI 의 차이
  - AI는 데이터에서 패턴을 인식하고 그 패턴을 기반으로 예측하는 머신러닝 알고리즘
  - AGI는 인간처럼 다양한 분야에서 범용으로 지적 작업을 수행할 수 있는 인공지능
    
    기존 AI는 범용보다는 특정 목적에서 뛰어난 성능을 보였지만 더욱 폭 넓게 다양한 임무를 수행할 수 있다. AGI는 범위를 제한하지 않고 자유롭게, 자체적인 학습 능력과 사고 능력을 가진다.
인공지능 발전 단계 ( ANI > AGI > ASI )
- AI : 데이터 기반으로의 특정 분야의 문제 해결 가능
- AGI : 인간과 유사하게 사고하고 다양한 문제를 이해하며 해결 가능
- ASI : 인류의 지능을 넘어 스스로 목표를 설정하고 지능을 강화
AI Red Team
- SW 취약점을 찾는 것 뿐만 아니라 AI 제품에 대한 윤리성, 신뢰성 향상을 위해 연구 진행하는 팀
- AI의 신뢰성과 윤리 강화!!!!
- 양질의 데이터를 만들고 학습시킬 방법을 연구하고 문제점 개선하는 방법

믿고 쓸 수 있는 AI가 될 수 있도록 하자

su3inni / interested