ru Skills

Навыки

Навыки являются ключевой частью многофункциональных помощников ИИ. DeepPavlov Dream предоставляет набор встроенных возможностей, называемых навыками. Например, в одном из дистрибутивов, Deepy, возможности ИИ-помощника включают разговор о Лунной базе и болтовню. В более крупных дистрибутивах, таких как Dream, он также может отвечать на вопросы о фактах (используя Factoid QA), предоставлять прогнозы погоды и поддерживать более умную болтовню.

DeepPavlov Dream позволяет научить вашего ИИ-помощника новым навыкам. Клиенты могут получить доступ к этим новым возможностям, задавая вопросы вашему помощнику по искусственному интеллекту или отправляя запросы. Вы можете развивать навыки, которые предоставляют пользователям множество различных типов способностей.

Доступные навыки и сервисы для английского языка

Сервисы

Name	Requirements	Description
DialoGPT	1.2 GB RAM, 2.1 GB GPU	generative service based on Transformers generative model, the model is set in docker compose argument PRETRAINED_MODEL_NAME_OR_PATH (for example, microsoft/DialoGPT-small with 0.2-0.5 sec on GPU)
DialoGPT Persona-based	1.2 GB RAM, 2.1 GB GPU	generative service based on Transformers generative model, the model was pre-trained on the PersonaChat dataset to generate a response conditioned on a several sentences of the socialbot's persona
Image Captioning	4 GB RAM, 5.4 GB GPU	creates text representation of a received image
Infilling	1 GB RAM, 1.2 GB GPU	(turned off but the code is available) generative service based on Infilling model, for the given utterance returns utterance where _ from original text is replaced with generated tokens
Knowledge Grounding	2 GB RAM, 2.1 GB GPU	generative service based on BlenderBot architecture providing a response to the context taking into account an additional text paragraph
Masked LM	1.1 GB RAM, 1 GB GPU	(turned off but the code is available)
Seq2seq Persona-based	1.5 GB RAM, 1.5 GB GPU	generative service based on Transformers seq2seq model, the model was pre-trained on the PersonaChat dataset to generate a response conditioned on a several sentences of the socialbot's persona
Sentence Ranker	1.2 GB RAM, 2.1 GB GPU	ranking model given as PRETRAINED_MODEL_NAME_OR_PATH which for a pair os sentences returns a float score of correspondence
StoryGPT	2.6 GB RAM, 2.15 GB GPU	generative service based on fine-tuned GPT-2, for the given set of keywords returns a short story using the keywords
GPT-3.5	100 MB RAM	generative service based on OpenAI API service, the model is set in docker compose argument PRETRAINED_MODEL_NAME_OR_PATH (in particular, in this service, text-davinci-003 is used.
ChatGPT	100 MB RAM	generative service based on OpenAI API service, the model is set in docker compose argument PRETRAINED_MODEL_NAME_OR_PATH (in particular, in this service, gpt-3.5-turbo is used.
Prompt StoryGPT	3 GB RAM, 4 GB GPU	generative service based on fine-tuned GPT-2, for the given topic represented by one noun returns short story on a given topic
GPT-J 6B	1.5 GB RAM, 24.2 GB GPU	generative service based on Transformers generative model, the model is set in docker compose argument PRETRAINED_MODEL_NAME_OR_PATH (in particular, in this service, GPT-J model is used.
BLOOMZ 7B	2.5 GB RAM, 29 GB GPU	generative service based on Transformers generative model, the model is set in docker compose argument PRETRAINED_MODEL_NAME_OR_PATH (in particular, in this service, BLOOMZ-7b1 model is used.

Навыки

Name	Requirements	Description
Alexa Handler	30 MB RAM	handler for several specific Alexa commands
Christmas Skill	30 MB RAM	supports FAQ, facts, and scripts for Christmas
Comet Dialog skill	300 MB RAM	uses COMeT ConceptNet model to express an opinion, to ask a question or give a comment about user's actions mentioned in the dialogue
Convert Reddit	1.2 GB RAM	uses a ConveRT encoder to build efficient representations for sentences
Dummy Skill	a part of agent container	a fallback skill with multiple non-toxic candidate responses
Dummy Skill Dialog	600 MB RAM	returns the next turn from the Topical Chat dataset if the response of the user to the Dummy Skill is similar to the corresponding response in the source data
Eliza	30 MB RAM	Chatbot (https://github.com/wadetb/eliza)
Emotion Skill	40 MB RAM	returns template responses to emotions detected by Emotion Classification from Combined Classification annotator
Factoid QA	170 MB RAM	answers factoid questions
Game Cooperative Skill	100 MB RAM	provides user with a conversation about computer games: the charts of the best games for the past year, past month, and last week
Harvesters Maintenance Skill	30 MB RAM	Harvesters maintenance skill
Harvesters Maintenance Gobot Skill	30 MB RAM	Harvesters maintenance Goal-oriented skill
Knowledge Grounding Skill	100 MB RAM	generates a response based on the dialogue history and provided knowledge related to the current conversation topic
Meta Script Skill	150 MB RAM	provides a multi-turn dialogue around human activities. The skill uses COMeT Atomic model to generate commonsensical descriptions and questions on several aspects
Misheard ASR	40 MB RAM	uses the ASR Processor annotations to give feedback to the user when ASR confidence is too low
News API Skill	60 MB RAM	presents the top-rated latest news about entities or topics using the GNews API
Oscar Skill	30 MB RAM	supports FAQ, facts, and scripts for Oscar
Personal Info Skill	40 MB RAM	queries and stores user's name, birthplace, and location
DFF Program Y Skill	800 MB RAM	[New DFF version] Chatbot Program Y (https://github.com/keiffster/program-y) adapted for Dream socialbot
DFF Program Y Dangerous Skill	100 MB RAM	[New DFF version] Chatbot Program Y (https://github.com/keiffster/program-y) adapted for Dream socialbot, containing responses to dangerous situations in a dialog
DFF Program Y Wide Skill	110 MB RAM	[New DFF version] Chatbot Program Y (https://github.com/keiffster/program-y) adapted for Dream socialbot, which includes only very general templates (with lower confidence)
Small Talk Skill	35 MB RAM	asks questions using the hand-written scripts for 25 topics, including but not limited to love, sports, work, pets, etc.
SuperBowl Skill	30 MB RAM	supports FAQ, facts, and scripts for SuperBowl
Text QA	1.8 GB RAM, 2.8 GB GPU	The service finds the answer of a factoid question in text.
Valentine's Day Skill	30 MB RAM	supports FAQ, facts, and scripts for Valentine's Day
Wikidata Dial Skill	100 MB RAM	generates an utterance using Wikidata triplets. Not turned on, needs improvement
DFF Animals Skill	200 MB RAM	is created using DFF and has three branches of conversation about animals: user's pets, pets of the socialbot, and wild animals
DFF Art Skill	100 MB RAM	DFF-based skill to discuss art
DFF Book Skill	400 MB RAM	[New DFF version] detects book titles and authors mentioned in the user's utterance with the help of Wiki parser and Entity linking and recommends books by leveraging information from the GoodReads database
DFF Bot Persona Skill	150 MB RAM	aims to discuss user favorites and 20 most popular things with short stories expressing the socialbot's opinion towards them
DFF Coronavirus Skill	110 MB RAM	[New DFF version] retrieves data about the number of coronavirus cases and deaths in different locations sourced from the John Hopkins University Center for System Science and Engineering
DFF Food Skill	150 MB RAM	constructed with DFF to encourage food-related conversation
DFF Friendship Skill	100 MB RAM	[New DFF version] DFF-based skill to greet the user in the beginning of the dialog, and forward the user to some scripted skill
DFF Funfact Skill	100 MB RAM	[New DFF version] Tells user fun facts
DFF Gaming Skill	80 MB RAM	provides a video games discussion. Gaming Skill is for more general talk about video games
DFF Gossip Skill	95 MB RAM	DFF-based skill to discuss other people with news about them
DFF Image Skill	100 MB RAM	[New DFF version] Scripted skill that based on the sent image captioning (from annotations) responses with specified responses in case of food, animals or people detected, and default responses otherwise
DFF Template Skill	50 MB RAM	[New DFF version] DFF-based skill that provides an example of DFF usage
DFF Template Prompted Skill	50 MB RAM	[New DFF version] DFF-based skill that provides answers generated by language model based on specified prompts and the dialog context. The model to be used is specified in GENERATIVE_SERVICE_URL. For example, you may use Transformer LM GPTJ service.
DFF Grounding Skill	90 MB RAM	[New DFF version] DFF-based skill to answer what is the topic of the conversation, to generate acknowledgement, to generate universal responses on some dialog acts by MIDAS
DFF Intent Responder	100 MB RAM	[New DFF version] provides template-based replies for some of the intents detected by Intent Catcher annotator
DFF Movie Skill	1.1 GB RAM	is implemented using DFF and takes care of the conversations related to movies
DFF Music Skill	70 MB RAM	DFF-based skill to discuss music
DFF Science Skill	90 MB RAM	DFF-based skill to discuss science
DFF Short Story Skill	90 MB RAM	[New DFF version] tells user short stories from 3 categories: (1) bedtime stories, such as fables and moral stories, (2) horror stories, and (3) funny ones
DFF Sport Skill	70 MB RAM	DFF-based skill to discuss sports
DFF Travel Skill	70 MB RAM	DFF-based skill to discuss travel
DFF Weather Skill	1.4 GB RAM	[New DFF version] uses the OpenWeatherMap service to get the forecast for the user's location
DFF Wiki Skill	150 MB RAM	used for making scenarios with the extraction of entities, slot filling, facts insertion, and acknowledgements

Доступные анвыки и сервисы для русского языка

Навыки и сервисы

Name	Requirements	Description
DialoGPT	2.8 GB RAM, 2 GB GPU	Russian DialoGPT by DeepPavlov
Dummy Skill		a fallback skill with multiple non-toxic candidate responses and random Russian questions
Personal Info Skill	40 MB RAM	queries and stores user's name, birthplace, and location
DFF Generative Skill	50 MB RAM	[New DFF version] generative skill which uses DialoGPT service to generate 3 different hypotheses
DFF Intent Responder	50 MB RAM	provides template-based replies for some of the intents detected by Intent Catcher annotator
DFF Program Y Skill	80 MB RAM	[New DFF version] Chatbot Program Y (https://github.com/keiffster/program-y) adapted for Dream socialbot
DFF Friendship Skill	70 MB RAM	[New DFF version] DFF-based skill to greet the user in the beginning of the dialog, and forward the user to some scripted skill
DFF Template Skill	50 MB RAM	[New DFF version] DFF-based skill that provides an example of DFF usage
Text QA	3.8 GiB RAM, 5.2 GiB GPU	Навык для ответа на вопросы по тексту.

Типы навыков

Существуют разные типы навыков и разные способы их классификации. В целом навыки можно рассматривать как ориентированные на достижение цели или основанные на болтовне.

Целенаправленные навыки

Целенаправленные навыки ориентированы на решение конкретных пользовательских задач. Обычно они обычно имеют ряд намерений, которые они могут распознать, с [необязательно] сопутствующими слотами и сущностями, и могут быть или не быть управляемыми сценарием.

Примером целенаправленного навыка является наш Навык технического обслуживания харвестеров. Он может ответить на такие вопросы, как:

• В каком состоянии комбайны? - за которым следует поиск в базе данных
• В каком состоянии комбайн {N}? - который использует заполнение слотов для определения номера комбайна, а затем следует поиск в базе данных
• Подготовьте ровер к поездке, за которым следует фальшивый вызов API ровера, чтобы подготовить его к поездке.

Эти навыки могут быть реализованы с помощью правил, с помощью нейронных сетей или их комбинации.

Вы можете использовать любую структуру для развития своих целеустремленных навыков. Мы предоставляем DFF (Dialog Flow Framework), который позволяет развивать целенаправленные навыки, используя подход, основанный на сценариях. Взгляните на различные dff_*_skill в каталоге /skills для получения подробной информации.

FAQ Навыки

Навыки часто задаваемых вопросов ориентированы на поддержку стиля беседы в формате вопросов и ответов / часто задаваемых вопросов. Создатель AI Assistant предоставляет кураторский список вопросов и ответов, использует библиотеку DeepPavlov для обучения модели поверх этого списка, а затем использует модель в качестве основы для навыка часто задаваемых вопросов.

Навыки общения в чате

Навыки болтовни ориентированы на поддержку общего разговора; он может быть полностью общим или более специфичным для предметной области или темы.

Примером навыка болтовни является наш Навык программы Y. Он поддерживает обсуждение ряда тем, включая, помимо прочего:

• Профиль бота
• Профиль пользователя
• Лунар Индастриз

Эти навыки могут быть реализованы с помощью правил (например, AIML), нейронных моделей (например, seq2seq или seq2word, таких как GPT) и их комбинаций.

Вы можете использовать любую структуру для развития навыков общения в чате.

Развитие собственного навыка DFF

Вы можете повторно использовать существующие навыки на основе DFF, заменив их содержимое своим собственным кодом. Самый простой способ — использовать dff_template_skill, а затем начать добавлять свою собственную логику в его файл scenario/main.py вручную или с помощью [DF Designer](https://marketplace .visualstudio.com/items?itemName=deeppavlov.vscode-dd-idde).

// подробности

Вы также можете посмотреть видео-инструкцию на нашем YouTube-канале здесь:

How to build DFF Skills in Dream-based multiskill AI Assistants with DF Designer (BETA)

...

Развитие собственного пользовательского навыка

Вы используете наш базовый Harvesters Maintenance Skill, затем удаляете остальное содержимое, оставляя только конечную точку /respond и шаблонный код приложения Flask по умолчанию:

#!/usr/bin/env python

import logging
import time
import random
import re
import json

from flask import Flask, request, jsonify
from os import getenv
import sentry_sdk


logging.basicConfig(format="%(asctime)s - %(name)s - %(levelname)s - %(message)s", level=logging.INFO)
logger = logging.getLogger(__name__)

app = Flask(__name__)

@app.route("/respond", methods=["POST"])
def respond():
    st_time = time.time()

    dialogs = request.json["dialogs"]

    responses = []
    confidences = []

    for dialog in dialogs:
        sentence = dialog['human_utterances'][-1]['annotations'].get("spelling_preprocessing")
        if sentence is None:
            logger.warning('Not found spelling preprocessing annotation')
            sentence = dialog['human_utterances'][-1]['text']
        
        response = "Hello world!"
		confidence = 0.8

        responses.append(response)
        confidences.append(confidence)

    total_time = time.time() - st_time
    logger.info(f"harvesters_maintenance_skill exec time = {total_time:.3f}s")
    return jsonify(list(zip(responses, confidences)))


if __name__ == "__main__":
    app.run(debug=False, host="0.0.0.0", port=3000)

Вам нужно будет соответствующим образом обработать высказывание пользователя, исходящее либо непосредственно от пользователя, либо после обработки аннотатором проверки орфографии, когда он доступен (как показано выше). После этого вам нужно будет обеспечить уверенность в ответе вашего навыка. Наконец, вам нужно будет отправить ответ и доверие агенту DeepPavlov.

Ссылки

• Skills Skills @ ReadTheDoc