HyperText Markup Language·광학 문자 인식 결과의 전처리와 JavaScript Object Notation 구조화로 입력 토큰을 줄였습니다.
리마커블랩스
필요한 정보만 모델에 전달하기
HyperText Markup Language·광학 문자 인식 결과를 정리해 입력 토큰과 인공지능 애플리케이션 프로그래밍 인터페이스 비용을 줄였습니다.
어떤 문제였나요?
예매내역 처리에 사용하는 월 인공지능 애플리케이션 프로그래밍 인터페이스 비용이 약 300만 원이었습니다.
이렇게 풀었습니다.
- HyperText Markup Language 문서와 광학 문자 인식으로 얻은 텍스트에서 필요한 정보만 추출했습니다.
- 정해진 JavaScript Object Notation 구조로 대규모 언어 모델에 전달해 입력 토큰 수를 줄였습니다.
무엇이 달라졌나요?
월 인공지능 애플리케이션 프로그래밍 인터페이스 비용을 약 300만 원에서 10만 원대로 낮췄습니다.
경험의 근거
이지훈이 제공한 경력 기술을 바탕으로 정리했습니다.
예매처별 근거 정보 추출
전체 HyperText Markup Language·이미지를 한 번에 모델에 맡기던 방식에서 필요한 예매 정보를 먼저 추출하는 방식으로 개선했다. 경력 기록에는 예매처별 파싱 전략과 필요한 정보만 구조화해 전달하는 방식이 설명되어 있다.
입력 토큰과 인공지능 호출 비용 절감
HyperText Markup Language·광학 문자 인식 결과에서 필요한 정보만 추출해 정해진 JavaScript Object Notation 구조로 대규모 언어 모델에 전달했다. 기존에 제공한 경력 설명의 월 인공지능 애플리케이션 프로그래밍 인터페이스 비용은 약 300만 원에서 10만 원대로 감소한 것으로, 요청당 비용이나 동일 사용량 비교를 뜻하지 않는다.
이 프로젝트의 다음 이야기가 궁금하다면.