생성형 AI 테스트 (3) - RAG 연동

RAG 파일 업로드

일단 나의 경우 우선 pdf로만 테스트를 진행해볼 예정이기 때문에 S3에 파일을 업로드 후 테스트 해보려한다.

 

 

 

S3 버킷에 파일 업로드

CLI를 이용해서 업로드 하지는 않고 직접 업로드를 하였다.
(업로드 속도가 빠른건 기분탓인가...)

 

 

 

 

지식창고 동기화

새로운 파일을 업로드 하였기 때문에 지식 창고를 동기화 및 데이터를 청킹해줘야함.

 

 

 

 

테스트 진행 (실패)

지식창고 생성 후 모델을 생성해서 테스트를 진행하려는데, 모델이 나오지 않았다...
무한 로딩창만이 있을뿐...

혹시 몰라서 에이전트 생성도 진행해서 테스트를 해봤는데 Antropic Model이 필요했었다..
Antropic Model은 기업 정보를 입력해야되서 불가능할걸로 예상하고 테스트를 중단할 수 밖에 없었다.... ㅠㅠ

 

 

 

 

비용

지식창고에 pdf를 올리고 정말 간단한 테스트를 진행해봤는데 문서자체에 텍스트가 많아서 그런지 약 한달 사이에 아래와같은 비용이 나왔다.

 

 

 

 

 

마치며

"명확하게 생성형 AI를 써서 무엇인가를 만들어봤다!" 라고 말은 못하지만 정말 플레이그라운드 정도만 해봤다...? 에서 끝난 것 같다. (내가 원하는 결과를 도출하지 못해서 말도 안되게 찝찝하다...)

아직 해보고싶은게 많은데 비용 이슈도 그렇고, 모델 선택도 그렇고 개인이 하기에는 여러가지 부담이 많은 것 같다.
생성형 AI를 직접 사용해보기엔 부담이 크니, 당장은 아이디어들만 계속 적립해나가고, 나중에 해봐야 할 것 같다...

 

 

 

언젠가는 쓰고만다...