서버가 클라이언트에게 제공하는 기능:
- 리소스 (Resources): 사용자 또는 AI 모델이 사용할 컨텍스트 및 데이터의 예시입니다.
- 문서: 특정 주제에 대한 회사 내부 문서, 사용 설명서, 연구 논문 등 AI 모델이 질문에 답변하거나 정보를 추출하는 데 사용할 수 있는 텍스트 파일 (예: “최근 분기별 매출 보고서”, “새로운 제품 기능 설명서”).
- 데이터베이스 항목: 고객 정보, 제품 카탈로그, 재고 현황 등 AI 모델이 특정 정보를 조회하거나 분석하는 데 사용할 수 있는 데이터베이스 레코드 (예: “특정 고객의 주문 내역”, “현재 판매 중인 모든 제품 목록”).
- 웹 페이지 콘텐츠: 특정 URL의 텍스트 내용, 이미지 캡션 등 AI 모델이 웹 정보를 이해하거나 요약하는 데 사용할 수 있는 웹 데이터 (예: “최신 뉴스 기사”, “경쟁사 제품 페이지”).
- 코드 스니펫: 특정 프로그래밍 언어의 함수 또는 클래스 정의 등 AI 모델이 코드 이해 또는 생성을 돕는 데 사용할 수 있는 코드 조각 (예: “특정 API 엔드포인트의 Python 함수”, “JavaScript의 정렬 알고리즘 예제”).
- 프롬프트 (Prompts): 사용자를 위한 템플릿 메시지 및 작업 흐름의 예시입니다.
- 이메일 초안 템플릿: “[고객 이름]님께, 저희 [회사 이름]의 [제품/서비스]에 관심을 가져주셔서 감사합니다… “과 같이 특정 목적에 맞게 AI 모델이 내용을 채울 수 있는 이메일 템플릿.
- 보고서 생성 템플릿: “다음 데이터를 기반으로 [주제]에 대한 보고서를 작성해 주세요: [데이터 삽입] 보고서에는 다음 섹션이 포함되어야 합니다: 1. 서론, 2. 주요 결과, 3. 결론.”과 같이 AI 모델이 특정 구조와 지침에 따라 보고서를 생성하도록 안내하는 템플릿.
- 코드 생성 작업 흐름: “1. [요청 사항]에 대한 설명을 사용자로부터 받습니다. 2. [프로그래밍 언어]로 [요청 사항]을 구현하는 함수를 생성합니다. 3. 생성된 코드를 사용자에게 제시하고 피드백을 받습니다.”와 같이 AI 모델이 특정 작업을 수행하는 단계별 지침.
- 질의응답 템플릿: “다음 텍스트를 기반으로 질문에 답하세요: [텍스트 삽입] 질문: [사용자 질문]“과 같이 AI 모델이 주어진 컨텍스트 내에서 질문에 답변하도록 유도하는 템플릿.
- 도구 (Tools): AI 모델이 실행할 수 있는 기능의 예시입니다.
- 검색 엔진: AI 모델이 특정 키워드 또는 구문을 사용하여 웹 또는 내부 데이터베이스를 검색하는 기능 (예: “최신 LLM 연구 동향 검색”, “회사 내 관련 문서 검색”).
- 계산기: AI 모델이 수학적 계산을 수행하는 기능 (예: “매출액 합산”, “환율 변환”).
- API 호출: AI 모델이 외부 서비스의 API를 호출하여 특정 작업을 수행하거나 데이터를 가져오는 기능 (예: “날씨 API 호출하여 현재 서울 날씨 정보 가져오기”, “주식 정보 API 호출하여 특정 종목의 현재 주가 가져오기”).
- 코드 실행기: AI 모델이 특정 프로그래밍 언어의 코드를 실행하고 결과를 반환하는 기능 (예: “Python 코드를 실행하여 데이터 분석 결과 확인”).
- 이메일 발송: AI 모델이 생성된 텍스트를 특정 수신자에게 이메일로 보내는 기능 (예: “생성된 보고서를 관련 팀에 이메일로 발송”).
클라이언트가 서버에 제공할 수 있는 기능:
- 샘플링 (Sampling): 서버에서 시작한 에이전트 동작 및 재귀 LLM 상호 작용의 예시입니다.
- 다양한 답변 생성: AI 모델이 동일한 프롬프트에 대해 여러 개의 다양한 답변 후보를 생성하고 클라이언트가 그중 하나를 선택하거나 순위를 매기는 기능 (예: “광고 문구 초안을 3가지 스타일로 생성”, “질문에 대한 답변 후보 5개 생성”).
- 반복적인 개선: AI 모델이 초기 답변을 생성한 후, 클라이언트 또는 사용자의 피드백을 기반으로 답변을 반복적으로 개선하는 기능 (예: “초기 보고서 초안에 대한 피드백을 반영하여 수정”, “사용자와의 대화를 통해 답변을 구체화”).
- 액션 계획 생성 및 실행: AI 모델이 주어진 목표를 달성하기 위한 일련의 단계별 액션 계획을 스스로 생성하고 (필요한 경우 도구를 사용하여) 순차적으로 실행하는 기능 (예: “오늘 서울의 날씨를 파악하고, 그에 맞는 옷차림을 사용자에게 추천하는 액션 계획 생성 및 실행”).
- 탐색적 상호 작용: AI 모델이 사용자의 명시적인 지시 없이도 주어진 컨텍스트 내에서 스스로 추가적인 질문을 하거나 정보를 탐색하여 더 나은 결과를 얻는 기능 (예: “사용자의 관심사를 파악하기 위해 몇 가지 추가 질문”, “주어진 문서에서 관련 정보를 더 찾아 사용자에게 제공”).