Формулировка задачи
Предположим у вас есть сайт на котором вы хотите в автоматическом режиме консультировать посетителей. Само собой сейчас это уже хочется делать с использованием chatGPT.Что такое системные инструкции в chatGPT?
В оригинальной документации они описаны так:В переводе это звучит следующим образом:
Приведем пример такой инструкции и вам сразу станет все понятно:
Задав chatGPT такой контекст мы получаем примерно вот такой диалог:
Шаг№1: Выбираем решение для онлайн чата
Для встраивания в сайт chatGPT нам нужен онлайн чат с возможностью перехватывать входящие и исходящие сообщения в чате. Мы остановились на данном решении: https://chatra.com/Этот чат в бесплатном тарифе обладает всеми нужными нам функциями. Вот ссылка на полную документацию на английском: https://chatra.com/help/api/
Нам понадобиться следующий webhook для перехвата входящих сообщений от посетителей:
Webhook для перехвата сообщений из чата на сайте
И API метод отправки сообщения посетителю:
Метод для отправки сообщений напрямую в чат с посетителем
Код виджета для размещения на сайте в итоге получается следующий:
<!-- Chatra {literal} -->
<script>
(function(d, w, c) {
w.ChatraID = 'XXXXXXXXXXXXXXXX';
var s = d.createElement('script');
w[c] = w[c] || function() {
(w[c].q = w[c].q || []).push(arguments);
};
s.async = true;
s.src = 'https://call.chatra.io/chatra.js';
if (d.head) d.head.appendChild(s);
})(document, window, 'Chatra');
</script>
<script>
// В переменной {uniqueId} мы сгенерируем необходимый для получения ответов {clientId}
let uniqueId = Date.now().toString(36) + Math.random().toString(36).substring(2) + "##1";
// В конце {uniqueId} мы добавляем номер для переключения контекста в виде: "##1"
window.ChatraSetup = {
clientId: uniqueId
};
</script>
<!-- /Chatra {/literal} -->
Для обработки всех сообщений мы устанавливаем webhook в настройках онлайн чата:
Установка webhook в настройках плагина онлайн-чата
На этом с виджетом все готово. Далее нам нужно сделать API для обработки всех сообщений с сайта и интерфейс для переключения контекста.
Шаг№2: Создаем базу для контекстов в Notion
В качестве интерфейса для переключения контекстов (ролевых моделей) нам подойдет база в Notion.
Мы сделаем так: добавляя новые записи в базу будет автоматически формироваться ссылка с ID соответствующей записи и при переходе по ссылке онлайн консультант на нашем сайте должен переключится в соответствующуй контекст (роль).
Шаг№3: Запускаем HTTP API на Flask
Я здесь не буду расписывать алгоритм получения API ключа для chatGPT, вот тут про это хорошо расписано: https://vc.ru/life/584440-kak-zaregistrirovatsya-v-openai-chatgpt-iz-rossii-v-2023-goduИтак, когда у вас есть {OPENAI_API_KEY} вы можете запустить следующий код на любом облачном сервере:
from flask import Flask, render_template, redirect, url_for, request, session, jsonify
from flask_cors import CORS
from flask import send_from_directory
from os import path
import json
import os
import requests
import pandas as pd
import datetime
import config # Тут лежат все необходимые API ключи
import notion_api
import openai
import telebot
app = Flask(__name__)
CORS(app)
bot = telebot.TeleBot(config.tg_bot_key)
# В этом классе будем хранить историю переписки с chatGPT
# для возможности вести полноценный диалог с каждым посетителем
class Context:
LOG = {}
################################### Вспомогательные функции
def GetJsonFromRequest(request):
data = request.get_json(force=True)
if type(data) is not dict:
data = request.get_json()
data = json.loads(data)
return data
###########################################################
# Функция для отправки сообщений посетителю
# Из документации: https://chatra.com/help/api/#pushed-messages
def chatra_send_message(cliend_id, message):
api_url = 'https://app.chatra.io/api/pushedMessages/'
headers = {
'Authorization': 'Chatra.Simple xxxxxxxxxxx:xxxxxxxxxxxxxxx',
'Content-Type': 'application/json',
}
reply = {
"clientId": cliend_id,
"text": message
}
result = requests.post(api_url, headers=headers, json=reply)
return result
# Это наша основная точка (webhook) для обработки входящих и исходящих собщений с сайта
@app.route('/api/v1.0/livechat_webhook', methods=['POST'])
def livechat_webhook():
print('[START - Live Chat Webhhook]')
data = GetJsonFromRequest(request)
# Если это наш собственный ответ, то пропускаем обработку
if data['agents'] != []:
return 'Done.'
# Определяем в каком контексте мы работаем
client_id = data['client']['id']
# Задаем контекст по умолчанию
context = config.AURA_context
# Если в ID клиента есть упоминание контекста, пробуем его загрузить из Notion
if '##' in client_id:
print(['LOAD context from Notion'])
databaseId = 'XXXXXXXXXXXXXXXXXXXXXXXXXXX'
filter = {
'filter': {
'and': [
{
'property': 'ID',
'title': {
'equals': client_id.split('##')[1]
}
},
]
}
}
res = notion_api.readDatabase(databaseId, config.notion_token, filter)
for index, row in res.iterrows():
context = row['Promt']
# Если в истории переписки еще нет сообщений для данного посетителя,
# то мы задаем контекст диалога (ролевую модель)
if client_id not in Context.LOG.keys():
Context.LOG[client_id] = [{"role": "system", "content" : context}]
Context.LOG[client_id].append({"role": "user", "content" : data['messages'][0]['message']})
# Отправляем вопрос в chatGPT
try:
completion = openai.ChatCompletion.create(
model = "gpt-3.5-turbo",
messages = Context.LOG[client_id]
)
reply = completion['choices'][0]['message']['content']
Context.LOG[client_id].append({"role": "assistant", "content" : reply})
# Отправляем ответ chatGPT посетителю на сайте
chatra_send_message(client_id, reply)
except Exception as e:
print('[*ERROR*]', str(e))
Context.LOG[client_id].pop(-1)
return 'Done.'
if __name__ == "__main__":
app.run(debug=True, host='0.0.0.0', port=5000)
Отдельно выделю код функции для чтения данных из Notion:
# notion_api.py
import requests, json
import pandas as pd
def readDatabase(databaseId, token, filter):
headers = {
"Accept": "application/json",
"Authorization": "Bearer " + token,
"Content-Type": "application/json",
"Notion-Version": "2021-08-16",
}
readUrl = f"https://api.notion.com/v1/databases/{databaseId}/query"
res = requests.request("POST", readUrl, json=filter, headers=headers)
data = res.json()
if len(data["results"]) == 0:
return pd.DataFrame()
df1 = pd.DataFrame(columns=["id"] + list(data["results"][0]["properties"].keys()))
for i in data["results"]:
try:
row = {}
for k in i["properties"].keys():
value = None
value_type = i["properties"][k]["type"]
# print(k, value_type, i['properties'][k])
if value_type == "files" and len(i["properties"][k]["files"]) > 0:
value = i["properties"][k]["files"][0]["external"]["url"]
if value_type == "status":
value = i["properties"][k]["status"]["name"]
if value_type == "url":
value = i["properties"][k]["url"]
if value_type == "checkbox":
value = i["properties"][k]["checkbox"]
if value_type == "select" and i["properties"][k]["select"] is not None:
value = i["properties"][k]["select"]["name"]
if value_type == "number":
value = i["properties"][k]["number"]
if (
value_type == "rich_text"
and len(i["properties"][k]["rich_text"]) > 0
):
value = i["properties"][k]["rich_text"][0]["text"]["content"]
if value_type == "title" and len(i["properties"][k]["title"]) > 0:
value = i["properties"][k]["title"][0]["text"]["content"]
row[k] = value
row["id"] = i["id"]
df1 = df1.append(row, ignore_index=True)
except Exception as e:
print(i["properties"], str(e))
return df1
Итог
Уверен, что подобных решений сейчас будет появляться очень много и в разных комбинациях, но надеюсь что-то из моего подхода будет вам полезно.
ChatGPT: продавец, юрист, психолог, … в роли консультанта на вашем сайте
Формулировка задачи Предположим у вас есть сайт на котором вы хотите в автоматическом режиме консультировать посетителей. Само собой сейчас это уже хочется делать с использованием chatGPT. Что такое...
habr.com