Update main.py
Browse files
main.py
CHANGED
|
@@ -79,6 +79,12 @@ def VectorDatabase(categorie):
|
|
| 79 |
vectorstore = PineconeVectorStore(
|
| 80 |
index_name=index_name, embedding=embeddings, pinecone_api_key=os.getenv('PINECONE_API_KEYJDLP')
|
| 81 |
)
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 82 |
|
| 83 |
return vectorstore
|
| 84 |
|
|
@@ -88,6 +94,8 @@ def Retriever(categorie):
|
|
| 88 |
retriever = vectorstore.as_retriever(search_type="similarity_score_threshold", search_kwargs={"score_threshold": .7, "k": 150,"filter": {'categorie': {'$eq': categorie}}})
|
| 89 |
elif categorie == "year":
|
| 90 |
retriever = vectorstore.as_retriever(search_type="similarity_score_threshold", search_kwargs={"score_threshold": .7, "k": 6,"filter": {'year': {'$gte': 2019}}})
|
|
|
|
|
|
|
| 91 |
return retriever
|
| 92 |
|
| 93 |
def Search(input, categorie):
|
|
@@ -114,6 +122,13 @@ def Search(input, categorie):
|
|
| 114 |
count = count + 1
|
| 115 |
sources_text = sources_text + str(count) + ". " + search[i].metadata['title'] + ' (JDLP : ' + str(search[i].metadata['year']) + '), ' + search[i].metadata['author'] + ', https://cipen.univ-gustave-eiffel.fr/fileadmin/CIPEN/OPP/' + search[i].metadata['file'] + "\n"
|
| 116 |
verbatim_text = verbatim_text + "<p style='font-size:0.8rem'>" + str(count) + ". JDLP : " + search[i].metadata['jdlp'] + "</p><p style='font-size:0.8rem'>" + search[i].page_content + "</p>"
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 117 |
|
| 118 |
results = [sources_text, verbatim_text]
|
| 119 |
return results
|
|
@@ -128,7 +143,7 @@ async def on_chat_start():
|
|
| 128 |
cl.Action(name="bibliographie-OPP-DGDIN", value="Pédagogie durable", label="🔥 Pédagogie durable : exemple : «quels sont les modèles d'apprentissage dans les universités?»"),
|
| 129 |
cl.Action(name="bibliographie-OPP-DGDIN", value="Lieux d'apprentissage", label="🔥 Lieux d'apprentissage : exemple : «donne des exemples de lieu d'apprentissage dans les universités?»"),
|
| 130 |
cl.Action(name="year", value="Journée de La Pédagogie", label="🔥 Journée de La Pédagogie : exemple : «Quelles sont les bonnes pratiques des plateformes de e-learning?»"),
|
| 131 |
-
cl.Action(name="skills", value="Compétences du CFA Descartes", label="🔥 Les compétences du CFA Descartes : exemple : «Quelles sont les compétences en marketing dispensées au CFA?»"),
|
| 132 |
cl.Action(name="OF", value="Formations Gustave Eiffel", label="🔥 Les formations de l'université Gustave Eiffel : exemple : «Quels sont les formations et les métiers possibles si on est créatifs?»"),
|
| 133 |
cl.Action(name="videos", value="Vidéos paroles de confiné.es", label="🔥 Les vidéos paroles de confiné.es : exemple : «Quelle est la méthodologie employée avec les plateformes d'enseignement à distance?»"),
|
| 134 |
cl.Action(name="offreST", value="Offres d'emploi France Travail", label="🔥 Les offres d'emploi de France Travail : exemple : «Quels sont les types de contrat proposés par les recruteurs?»"),
|
|
|
|
| 79 |
vectorstore = PineconeVectorStore(
|
| 80 |
index_name=index_name, embedding=embeddings, pinecone_api_key=os.getenv('PINECONE_API_KEYJDLP')
|
| 81 |
)
|
| 82 |
+
elif categorie == "skills":
|
| 83 |
+
index_name = "all-skills"
|
| 84 |
+
embeddings = HuggingFaceEmbeddings()
|
| 85 |
+
vectorstore = PineconeVectorStore(
|
| 86 |
+
index_name=index_name, embedding=embeddings, pinecone_api_key=os.getenv('PINECONE_API_KEYSKILLS')
|
| 87 |
+
)
|
| 88 |
|
| 89 |
return vectorstore
|
| 90 |
|
|
|
|
| 94 |
retriever = vectorstore.as_retriever(search_type="similarity_score_threshold", search_kwargs={"score_threshold": .7, "k": 150,"filter": {'categorie': {'$eq': categorie}}})
|
| 95 |
elif categorie == "year":
|
| 96 |
retriever = vectorstore.as_retriever(search_type="similarity_score_threshold", search_kwargs={"score_threshold": .7, "k": 6,"filter": {'year': {'$gte': 2019}}})
|
| 97 |
+
elif categorie == "skills":
|
| 98 |
+
retriever = vectorstore.as_retriever(search_type="similarity_score_threshold", search_kwargs={"score_threshold": .7, "k": 150,"filter": {'file': {'$eq': 'competences-master-CFA.csv'}}})
|
| 99 |
return retriever
|
| 100 |
|
| 101 |
def Search(input, categorie):
|
|
|
|
| 122 |
count = count + 1
|
| 123 |
sources_text = sources_text + str(count) + ". " + search[i].metadata['title'] + ' (JDLP : ' + str(search[i].metadata['year']) + '), ' + search[i].metadata['author'] + ', https://cipen.univ-gustave-eiffel.fr/fileadmin/CIPEN/OPP/' + search[i].metadata['file'] + "\n"
|
| 124 |
verbatim_text = verbatim_text + "<p style='font-size:0.8rem'>" + str(count) + ". JDLP : " + search[i].metadata['jdlp'] + "</p><p style='font-size:0.8rem'>" + search[i].page_content + "</p>"
|
| 125 |
+
elif categorie == "skills":
|
| 126 |
+
search = vectorstore.similarity_search(input,k=50, filter={"file": {"$eq": 'competences-master-CFA.csv'}})
|
| 127 |
+
for i in range(0,len(search)):
|
| 128 |
+
if count <= 15:
|
| 129 |
+
count = count + 1
|
| 130 |
+
sources_text = sources_text + str(count) + ". " + search[i].metadata['diplôme'] + ' (année : ' + search[i].metadata['année'] + '), ' + search[i].metadata['domaine'] + ', https://www.francecompetences.fr/recherche/rncp/' + str(search[i].metadata['rncp'])[4:] + "/\n"
|
| 131 |
+
verbatim_text = verbatim_text + "<p style='font-size:0.8rem'>" + str(count) + ". " + search[i].metadata['diplôme'] + "</p><p style='font-size:0.8rem'>" + search[i].page_content + "</p>"
|
| 132 |
|
| 133 |
results = [sources_text, verbatim_text]
|
| 134 |
return results
|
|
|
|
| 143 |
cl.Action(name="bibliographie-OPP-DGDIN", value="Pédagogie durable", label="🔥 Pédagogie durable : exemple : «quels sont les modèles d'apprentissage dans les universités?»"),
|
| 144 |
cl.Action(name="bibliographie-OPP-DGDIN", value="Lieux d'apprentissage", label="🔥 Lieux d'apprentissage : exemple : «donne des exemples de lieu d'apprentissage dans les universités?»"),
|
| 145 |
cl.Action(name="year", value="Journée de La Pédagogie", label="🔥 Journée de La Pédagogie : exemple : «Quelles sont les bonnes pratiques des plateformes de e-learning?»"),
|
| 146 |
+
cl.Action(name="skills", value="Compétences du CFA Descartes", label="🔥 Les compétences des masters du CFA Descartes : exemple : «Quelles sont les compétences en marketing dispensées au CFA?»"),
|
| 147 |
cl.Action(name="OF", value="Formations Gustave Eiffel", label="🔥 Les formations de l'université Gustave Eiffel : exemple : «Quels sont les formations et les métiers possibles si on est créatifs?»"),
|
| 148 |
cl.Action(name="videos", value="Vidéos paroles de confiné.es", label="🔥 Les vidéos paroles de confiné.es : exemple : «Quelle est la méthodologie employée avec les plateformes d'enseignement à distance?»"),
|
| 149 |
cl.Action(name="offreST", value="Offres d'emploi France Travail", label="🔥 Les offres d'emploi de France Travail : exemple : «Quels sont les types de contrat proposés par les recruteurs?»"),
|