-
프로젝트 정의
LLM 기반 범죄 피해자 상담 및 상담 종합 의견 생성 시스템 개발
-
팀 구성
구분 상세 인원 개발 백 2명 (본인 포함) 프론트 1명 엔진 1명 (본인 포함) DB 1명 (본인 포함) 기획/디자인 1명 -
담당 업무
1) 범죄 피해자 설문 정보에 대한 종합 의견 생성(LLM)
2) 경찰청 내부 정보 검색 시스템 개발(LLM)
-
사용 기술
1) ai model(LLM, embedding model, rerank model)
2) RAG
3) PDF OCR
4) prompt engineering
5) RAG data processing
6) vectorstore
-
개발 언어
python
-
수행 업무 요약
- 경찰청 내부 정보 검색 시스템 개발 (chat), 해당 프로젝트에서는 부가적으로 범죄 피해자 설문 정보에 대한 종합 의견 자동 생성 시스템 개발도 진행
-
- Multi-Agent pipeline 설계
- 경찰청 내부 자료 rag agnet, 법률 agent로 구성 두 agent는 순차적으로 작동할 수도 있고 병렬적으로 작동할 수도 있다. 의도 분류 - 다수의 의도 - 하위 쿼리들 생성 - 각 쿼리들에 대해 적합한 agent 호출 만약 특정 agent를 호출하여 답변 생성 후, 생성된 답변을 보강하기 위해 나머지 agent가 필요할 시 나머지 agent도 추가 호출하여 답변 생성
-
- db 구축
- 내부 자료는 대부분 pdf, 한글, docx 파일로, parsing 진행 후 db 구축
- 법률 데이터는 ‘조’ 단위로 chunking, 모든 chunk에는 법령명을 함께 입력, embedding은 법률명-조항 요약, metadata로 법률명, 조항명들 입력
-
- 문서작성 자동화 프로세스 범죄 피해자 설문 결과에 대한 경찰관들의 의견 생성 방식을 청취한 후 이를 알고리즘으로 구현. 알고리즘을 통해 나온 결과를 기반으로 종합의견들을 생성 → 백엔드 개발자가 해당하는 의견들을 docx 양식 내 정해진 구간에 삽입
- 경찰청 내부 정보 검색 시스템 개발 (chat), 해당 프로젝트에서는 부가적으로 범죄 피해자 설문 정보에 대한 종합 의견 자동 생성 시스템 개발도 진행