매칭 진행 중
·
ID
654339
인과추론 기반 신뢰성 강화형 생성 AI 시스템 공동 개발
기업 용역
정부 지원 과제
기술 이전
을 함께 진행할
기업
을 찾는 공고입니다.
본 과제는 인과추론 기반 설명가능 인공지능 기술을 활용하여 생성형 AI 시스템의 신뢰성과 투명성을 강화하는 것을 목표로 합니다. 대규모 언어모델이 갖는 허위 정보 생성, 설명 불가능한 의사결정, 사회적 편향 문제를 해결하기 위해 인과 관계 기반의 모델링 및 분석 기법을 적용하고, 생성 결과에 대한 신뢰성 평가 및 검증 프레임워크를 개발하고자 합니다. 이를 통해 의료, 법률, 금융 등 고신뢰성이 요구되는 산업 영역에서 실제 적용 가능한 생성형 AI 시스템 구현을 단계적으로 추진합니다.
게시자 유형
연구실
핵심 키워드
설명가능AI
인과추론
자연어처리
과제 규모
협의 가능
공고 마감일
미정
연구실 소개
연구실 소개
임희석 교수의 KU-NLP 연구실은 자연어처리 및 생성형 인공지능 분야에서 세계적 수준의 연구를 수행하고 있으며, 대규모 언어모델의 신뢰성 확보와 인과추론 기반 설명 가능성, 멀티모달 데이터 해석, 사회적 편향 최소화를 핵심 연구 목표로 하고 있습니다. AI의 윤리성, 투명성, 공정성을 중심 가치로 삼아 산업 적용이 가능한 알고리즘 설계 및 검증 기술을 보유하고 있으며, 실제 서비스 환경에서 활용 가능한 생성형 AI 기술 개발에 집중하고 있습니다.
대표 연구 분야
1. 인과추론 기반 자연어처리 및 생성형 AI - 데이터 간 인과 관계를 모델링하여 대규모 언어모델의 추론 과정과 결과를 설명 가능하게 하고, 허위 정보 생성 및 오류 발생 원인을 구조적으로 분석하는 기술을 연구합니다. 2. LLM 신뢰성 평가 및 검증 프레임워크 - 생성 결과의 불확실성, 오류, 편향을 정량적으로 분석하고 산업 환경에서의 리스크를 사전에 검증할 수 있는 평가 도구 및 분석 방법론을 개발합니다. 3. 텍스트-이미지 멀티모달 이해 기술 - 텍스트와 이미지 등 다양한 비정형 데이터를 통합적으로 해석할 수 있는 멀티모달 AI 모델을 연구하여 응용 범위를 확장합니다. 4. 윤리적·공정성 중심 NLP 시스템 설계 - 사회적 편향 최소화, 공정성 및 투명성을 고려한 Responsible AI 및 설명가능 AI 기술을 연구합니다.
정부과제 / 산학협력 경험
- 생성형 AI 및 자연어처리 분야의 다수 산학협력 및 산업 프로젝트 수행 경험 보유 - 기업 용역 과제 및 정부 지원 연구 과제 수행 경험 - 논문, 특허, 분석 툴킷 형태의 연구 결과물 제공 경험 보유
연구 희망 개요
연구 희망 및 관심 주제
인과추론 기반 설명 가능한 대규모 언어모델 응용 기술 및 신뢰성 평가 프레임워크 개발 본 연구는 생성형 AI의 실사용 과정에서 발생하는 허위 정보 생성, 설명 불가능성, 사회적 편향 문제를 해결하기 위해 인과추론 기반 모델링 기법을 적용하고, 생성 결과에 대한 신뢰도 평가 및 오류 분석이 가능한 기술을 개발하는 것을 목표로 합니다. 이를 통해 의료, 법률, 금융 등 고신뢰성이 요구되는 산업 분야에서 안전하고 책임 있는 생성형 AI 시스템 적용 가능성을 확대하고자 합니다.
협력 가능 분야
- 생성형 AI 및 대규모 언어모델 기반 응용 서비스 공동 개발 - 인과추론 및 설명가능 AI 기술을 활용한 모델 분석 및 고도화 - 생성형 AI 결과 신뢰성 검증 및 평가 도구 개발 - 의료·법률·금융 등 고신뢰 산업 분야 특화 AI 시스템 연구 - 멀티모달 데이터 기반 AI 응용 기술 개발
본 연구 관련 연구실 특장점
- 인과추론 기반 LLM 모델링 및 분석 역량 국내 최고 수준 - 설명가능성, 공정성, 투명성을 중심으로 한 Responsible AI 기술 전문성 보유 - 다수의 산학·정부과제 수행을 통한 산업 연계 연구 경험 축적 - 논문, 특허, 소프트웨어 툴킷 등 실질적 연구 성과 도출 가능 - 멀티모달 데이터 처리 및 대규모 모델 튜닝 기반 응용 확장성 확보
협업 요건
파트너 기대 역할
기업 역할 - 생성형 AI 기반 서비스 설계 또는 운영 환경 제공 - 실제 산업 데이터 및 활용 시나리오 공유 - 연구 결과의 서비스 적용, 실증 및 사업화 가능성 검토 연구실 역할 - 인과추론 기반 생성형 AI 모델 설계 및 분석 - 신뢰성 평가, 오류 분석, 설명가능성 확보를 위한 알고리즘 개발 - 모델 성능 검증 및 산업 적용을 위한 기술 고도화
협업 파트너 희망 요건
- 생성형 AI 또는 LLM 기반 서비스 설계·운영 경험을 보유한 기업 - AI 결과물의 신뢰성 검증 및 해석 기술에 관심 있는 중견기업 또는 AI 스타트업 - 의료, 법률, 금융, 공공데이터 등 고신뢰 영역에서 AI 도입을 추진 중인 기관 - 윤리적 AI 및 Responsible AI 구축을 위한 기술 전략 수립 수요를 보유한 기업