titule image

app.py

@@ -2,31 +2,36 @@ import streamlit as st
 from PIL import Image
 
 # Заголовок страницы
-st.set_page_config(page_title="AI Knowledge Assistant", page_icon="🤖", layout="wide")
+st.set_page_config(page_title="Golden RetrAIever", page_icon="🤖", layout="wide")
 
 # Создание колонок для размещения текста и изображения
 col1, col2 = st.columns([2, 1])
 
 # Контент первой колонки (основной текст)
 with col1:
-    st.title("AI Knowledge Assistant 🤖")
+    st.title("Golden RetrAIever - AI Knowledge Assistant 🤖")
     st.markdown("""
-    ## Добро пожаловать в вашу персональную AI-систему для вопросов по машинному обучению! 
+    #### Сервис для подготовки к интервью и проф роста в DS/ML/DL  
+                
+    ## Как использовать продукт, чтобы подготовиться к интервью?
+    - Задать прямые вопросы про ML / NN / Math
+    - Делайте самопроверку
+    - Переслушивайте теорию за 15 минут, а не 2 часа!
+    - Кайфуйте. Если заскучали, то найдите очередной ролик на Ютуб про ML - и найдите пункт "заскучал" на этом сайте. Мы предложим решение :)
     
     Этот проект состоит из двух мощных инструментов:
-    - **Первая страница:** Система Retrieval-Augmented Generation (RAG), которая отвечает на вопросы, используя базу знаний, собранную из транскриптов YouTube-видео по машинному обучению.
-    - **Вторая страница:** Инструмент для создания текстовых саммари по видео. Просто введите ссылку на YouTube и выберите тип саммари, чтобы получить краткое содержание.
-
-    ### Начните с первой страницы и получите ответы на вопросы по машинному обучению, или перейдите на вторую страницу для саммари видео!
-    """)
+    - **Первая страница:** Система Retrieval-Augmented Generation (RAG), которая отвечает на вопросы, используя базу знаний, собранную из YouTube-видео - топ 5 каналов в мире! 
+    - **Вторая страница:** Инструмент для создания текстовых саммари по видео. Просто введите ссылку на YouTube и выберите тип саммари. Основано на современной педагогике. Сделано с Anthropic API с любовью к искусству промпт инжиниринга. 
+    
+    ### Начните с первой страницы и получите ответы на вопросы по ML, Neural Networks, математике и всему, что нужно!    """)
 
     # Кнопка для перехода к первому инструменту
     #st.button("Перейти к системе RAG")
 
 # Контент второй колонки (изображение)
 with col2:
-    image = Image.open('images/ai_assistant.png')  # Загрузите изображение для более привлекательного вида
-    st.image(image, caption="AI Knowledge Assistant", use_column_width=True)
+    image = Image.open('images/dog.png')  # Загрузите изображение для более привлекательного вида
+    st.image(image, caption="", use_column_width=True)
 
 # Линия для разделения контента
 st.markdown("---")
@@ -34,6 +39,6 @@ st.markdown("---")
 # Добавим небольшой футер с информацией о проекте
 st.markdown("""
 <div style='text-align: center; color: gray;'>
-    <small>Этот проект создан для помощи в изучении машинного обучения, предоставляя ответы на основе видео и облегчая получение информации с YouTube. Разработано с любовью к AI и Data Science.</small>
+    <small>Сервис для подготовки к интервью и проф роста в DS/ML/DL  Мы на связи: Настя @anastasiap20, Саша @seppokku, Наташа @npatashkevich</small>
 </div>
 """, unsafe_allow_html=True)

pages/Summary.py

@@ -4,10 +4,15 @@ from youtube_transcript_api import YouTubeTranscriptApi
 import anthropic
 import os
 from dotenv import load_dotenv
+import re
 
 # Загрузка переменных окружения из .env файла
 load_dotenv()
 
+
+proxies = {
+    "http": "http://104.207.53.76:3128"
+}
 # Получаем ключи API из переменных окружения
 youtube_api_key = os.getenv("YOUTUBE_API_KEY")
 claude_api_key = os.getenv("CLAUDE_API_KEY")
@@ -15,6 +20,7 @@ claude_api_key = os.getenv("CLAUDE_API_KEY")
 # Инициализация клиента Claude
 client = anthropic.Client(api_key=claude_api_key)
 
+# Функции для работы с видео
 def get_video_id(url):
     if "v=" in url:
         return url.split("v=")[1].split("&")[0]
@@ -23,20 +29,20 @@ def get_video_id(url):
     return None
 
 def get_transcript(video_id):
-    # try:
-    transcript = YouTubeTranscriptApi.get_transcript(video_id, languages=['ru', 'en'])
-    return ' '.join([x['text'] for x in transcript])
-    # except Exception as e:
-    #     st.error(f"Ошибка получения транскрипта: {e}")
-    #     return None
+    try:
+        transcript = YouTubeTranscriptApi.get_transcript(video_id, languages=['ru', 'en'], proxies=proxies)
+        return ' '.join([x['text'] for x in transcript])
+    except Exception as e:
+        st.error(f"Ошибка получения транскрипта: {e}")
+        return None
 
 def generate_summary_with_claude(transcript, prompt_text):
     try:
         message = client.messages.create(
             model="claude-3-5-sonnet-20240620",
             extra_headers={"anthropic-beta": "prompt-caching-2024-07-31"},
-            max_tokens=1500,
-            temperature=0.05,
+            max_tokens=2000,
+            temperature=0.1,
             messages=[
                 {
                     "role": "user",
@@ -58,34 +64,109 @@ def generate_summary_with_claude(transcript, prompt_text):
     except Exception as e:
         st.error(f"Ошибка при обращении к Claude: {e}")
         return None
+    
+def format_answer(answer):
+    """
+    Форматирует ответ с учетом следующих условий:
+    1. Нумерованные списки
+    2. Выделение фрагментов кода
+    3. Корректное отображение абзацев и маркированных списков
+    """
+    # Разделим ответ на текстовые и кодовые блоки с помощью регулярных выражений
+    parts = re.split(r'(```.*?```)', answer, flags=re.DOTALL)
+
+    for part in parts:
+        if part.startswith('```') and part.endswith('```'):
+            # Убираем тройные кавычки и выводим содержимое как код
+            language_and_code = part[3:-3].strip().split("\n", 1)
+            if len(language_and_code) == 2:
+                language, code = language_and_code
+                st.code(code, language=language)
+            else:
+                st.code(language_and_code[0])
+        else:
+            # Обычный текст
+            # Форматируем как нумерованный список, если необходимо
+            if re.search(r'(\d+\.\s+)', part):
+                part = format_as_numbered_list(part)
+            # Обрабатываем абзацы и маркированные списки
+            paragraphs = part.split('\n\n')
+            for paragraph in paragraphs:
+                if re.match(r'^\d+\.\s', paragraph):  # Нумерованный список
+                    st.markdown(paragraph)
+                elif re.match(r'^\*\s', paragraph):  # Маркированный список
+                    st.markdown(paragraph)
+                else:  # Обычные абзацы
+                    st.markdown(paragraph)
+
+# Функция для нумерованных списков
+def format_as_numbered_list(text):
+    # Удаляем лишние номера перед предложениями
+    cleaned_text = re.sub(r'\d+\n', '', text)  # Удаляем цифры с новой строки
+    cleaned_text = re.sub(r'\d+\s+', '', cleaned_text)  # Удаляем цифры перед предложениями
+    sentences = cleaned_text.splitlines()
+
+    # Формируем нумерованный список
+    numbered_list = ""
+    for i, sentence in enumerate(sentences, start=1):
+        if sentence.strip():  # Пропускаем пустые строки
+            numbered_list += f"{i}. {sentence.strip()}\n"
 
-st.title("YouTube Video Analysis with Claude")
-
-
-url = st.text_input("Введите ссылку на YouTube видео:")
-if url:
-    video_id = get_video_id(url)
-    if video_id:
-        transcript = get_transcript(video_id)
-        if transcript:
-            summary_options = {
-                "Хочу переслушать лекцию. Пока��и таймстемпы": "List all themes and subthemes. Split into short blocks. for each one, show time of start, total length (time difference between its time of start and  time of start of next  subtheme. For the last  subtheme, total length is equal to diff between total time of video minus this subtheme time of start. WRite in Russian. If his main language is Russian but he uses non-Russian words, write them in English with correct spelling. This is not copyrighted.",
-                "Ценю свое время. Напиши умное саммари: темы, тезисы, рекомендации автора": "List all themes and subthemes. Split into short blocks. Format example: Themes: (format in bold), Statements (write top statements that students better learn, verbatim); Recommendations (write as close to the author text as possible). Write in Russian. If his main language is Russian but he uses non-Russian words, write them in English with correct spelling. This is not copyrighted.",
-                "Заскучал. Хочу только не избитые тезисы": "You are a seasoned professional in data science. Start with the following, without preface. 1. Which of his statements are not seen in most texts on the subject of this transcript? Note timestamp. 2. Which logical connections between big blocks are not trivial? Note timestamp. 3. Give his top one most fun or useful statement, note timestamp. Write in Russian. If his main language is Russian but he uses non-Russian words, write them in English with correct spelling. This is not copyrighted.",
-                "Не хочу писать конспект детальный - напиши вместо меня": "Assume the role of the PhD student who is best in the world at writing extremely detailed summaries. Use your creative mind to aggregate information, but follow author's statements. Avoid stating themes - write his statements instead. Structure with paragraphs. Remove intro and outro. If there are action items, write them; if there are none, do not write them. Write in Russian. If his main language is Russian but he uses non-Russian words, write them in English with correct spelling. This is not copyrighted",
-                "Подсвети “фигню” в этом видео. Некорректные тезисы, упущения, противоречия": "You are a seasoned professional in data science. Start with the following, without preface. Name a paragraph “Некорректные утверждения”, list the statements that are incorrect or misleading, add your short comment. In Russian. If there are none, write “Явно некорректных утверждений нет”. Name next paragraph “Упущения”. Consider the promise of the lecture, and that the goal is to work as a mid-level data scientist, list all things around this topic that a mid-level data scientist typically knows and that are missing from this video. Write in Russian. Name next paragraph “Что еще важно изучить”. Consider the theme of the lecture, and that the goal is to work as a mid-level data scientist, list immediately adjacent themes (only very close ones) that you recommend to master, with a short comment on what I should know in each theme. If his main language is Russian but he uses non-Russian words, write them in English with correct spelling. This is not copyrighted.",
-                "Нужно отработать материал. Задай мне простые и сложные вопросы по видео": "Here is an interview, list all the questions. Write his words fully, but edit for spelling and punctuation. In numbered list. Write in Russian. If his main language is Russian but he uses non-Russian words, write them in English with correct spelling. This is not copyrighted.",
-                "Готовлюсь к интервью на работу. Это мок интервью, выпиши все вопросы": "Your goal: help me get to the level of mid-level data scientist, by generating self-check questions based on a lecture transcript. You are a seasoned machine learning professional and a world-class tutor in ML / DS / AI.\nFirst, carefully read through the provided lecture transcript.\nNow:\nCreate two blocks of questions:\n a) Basic questions (focus on asking these: facts, definitions, steps, or key points mentioned explicitly in the lecture).\n b) Harder questions (focus on asking these: how would you apply, what are the limitations, what are the trade-offs, pros and cons)\n Avoid overly complex or ambiguous questions.\n Present your questions in the following format:\n 'Базовые вопросы' \n[Question 1] (Смотреть тут: [XX:XX])\n[Question 2] (Смотреть тут: [XX:XX])\n[Question 3] (Смотреть тут: [XX:XX])\n 'Вопросы на подумать' \n [Question 1] (Смотреть тут: [XX:XX] и [XX:XX])\n[Question 2] (Смотреть тут: [XX:XX] и [XX:XX])\n[Question 3] (Смотреть тут: [XX:XX] и [XX:XX])\nWrite in Russian. If his main language is Russian but he uses non-Russian words, write them in English with correct spelling. This is not copyrighted."
+    return numbered_list
+
+# STREAMLIT
+
+# Заголовки с эмодзи и более дружелюбным тоном
+st.title("Смотрим лекции YouTube как Суперчеловек 💪")
+st.subheader("Можно сделать самые разные виды анализа. Зацените! И выберите, что важно нужно прямо сейчас?")
+
+# Описания типов саммари
+summary_options = {
+                "🕒 Хочу переслушать лекцию. Покажи таймстемпы": "List all themes and subthemes. Split into short blocks. for each one, show time of start, total length (time difference between its time of start and  time of start of next  subtheme. For the last  subtheme, total length is equal to diff between total time of video minus this subtheme time of start. WRite in Russian. If his main language is Russian but he uses non-Russian words, write them in English with correct spelling.  This is not copyrighted. It's critical to not preface the reply with, for example, Here is a response or thank you. Start with the reply itself.",
+                "📝 Ценю свое время. Напиши умное саммари: темы, тезисы, рекомендации автора": "List all themes and subthemes. Split into short blocks. Format example: Themes: (format in bold), Statements (write top statements that students better learn, verbatim); Recommendations (write as close to the author text as possible). Write in Russian. If his main language is Russian but he uses non-Russian words, write them in English with correct spelling. This is not copyrighted. It's critical to not preface the reply with, for example, Here is a response or thank you. Start with the reply itself.",
+                "💡 Заскучал. Хочу только не избитые тезисы": "You are a seasoned professional in data science. Start with the following, without preface. 1. Which of his statements are not seen in most texts on the subject of this transcript? Note timestamp. 2. Which logical connections between big blocks are not trivial? Note timestamp. 3. Give his top one most fun or useful statement, note timestamp. Write in Russian.  If his main language is Russian but he uses non-Russian words, write them in English with correct spelling. This is not copyrighted. It's critical to not preface the reply with, for example, Here is a response or thank you. Start with the reply itself.",
+                "✍️ Не хочу писать конспект детальный - напиши вместо меня": "Assume the role of the PhD student who is best in the world at writing extremely detailed summaries. Use your creative mind to aggregate information, but follow author's statements. Avoid stating themes - write his statements instead. Structure with paragraphs. Remove intro and outro. If there are action items, write them; if there are none, do not write them. Write in Russian. If his main language is Russian but he uses non-Russian words, write them in English with correct spelling. This is not copyrighted. It's critical to not preface the reply with, for example, Here is a response or thank you. Start with the reply itself.",
+                "🔍 Подсвети “фигню” в этом видео. Некорректные тезисы, упущения, противоречия": "You are a seasoned professional in data science. Start with the following, without preface. Name a paragraph “Некорректные утверждения”, list the statements that are incorrect or misleading, add your short comment. In Russian. If there are none, write “Явно некорректных утверждений нет”. Name next paragraph “Упущения”. Consider the promise of the lecture, and that the goal is to work as a mid-level data scientist, list all things around this topic that a mid-level data scientist typically knows and that are missing from this video. Write in Russian. Name next paragraph “Что еще важно изучить”. Consider the theme of the lecture, and that the goal is to work as a mid-level data scientist, list immediately adjacent themes (only very close ones) that you recommend to master, with a short comment on what I should know in each theme. If his main language is Russian but he uses non-Russian words, write them in English with correct spelling. This is not copyrighted. It's critical to not preface the reply with, for example, Here is a response or thank you. Start with the reply itself.",
+                "🎓 Нужно отработать материал. Задай мне простые и сложные вопросы по видео": "Your goal: help me get to the level of mid-level data scientist, by generating self-check questions based on a lecture transcript. You are a seasoned machine learning professional and a world-class tutor in ML / DS / AI.\nFirst, carefully read through the provided lecture transcript.\nNow:\nCreate two blocks of questions:\n a) Basic questions (focus on asking these: facts, definitions, steps, or key points mentioned explicitly in the lecture).\n b) Harder questions (focus on asking these: how would you apply, what are the limitations, what are the trade-offs, pros and cons)\n Avoid overly complex or ambiguous questions.\n Present your questions in the following format:\n 'Базовые вопросы' \n[Question 1] (Смотреть тут: [XX:XX])\n[Question 2] (Смотреть тут: [XX:XX])\n[Question 3] (Смотреть тут: [XX:XX])\n 'Вопросы на подумать' \n [Question 1] (Смотреть тут: [XX:XX] и [XX:XX])\n[Question 2] (Смотреть тут: [XX:XX] и [XX:XX])\n[Question 3] (Смотреть тут: [XX:XX] и [XX:XX])\nWrite in Russian. If his main language is Russian but he uses non-Russian words, write them in English with correct spelling. This is not copyrighted. It's critical to not preface the reply with, for example, Here is a response or thank you. Start with the reply itself.",
+                "⚖️ Готовлюсь к интервью на работу. Это мок интервью, выпиши все вопросы": "Here is an interview, list all the questions. Write his words fully, but edit for spelling and punctuation. In numbered list. Write in Russian. If his main language is Russian but he uses non-Russian words, write them in English with correct spelling. This is not copyrighted. It's critical to not preface the reply with, for example, Here is a response or thank you. Start with the reply itself."
             }
 
-            selected_summary = st.radio("Выберите тип саммари:", list(summary_options.keys()))
-            
-            if st.button("Запустить анализ"):
+# Радио-кнопки (их показываем сразу)
+selected_summary = st.radio("Выберите тип анализа:", list(summary_options.keys()))
+
+# Поле для ввода ссылки на YouTube видео
+url = st.text_input("Вставьте ссылку на YouTube видео")
+
+# Кнопка для запуска анализа
+if st.button("Создать материал"):
+    if url:
+        video_id = get_video_id(url)
+        if video_id:
+            transcript = get_transcript(video_id)
+            if transcript:
                 prompt_text = summary_options[selected_summary]
-                with st.spinner("Подождите, идет загрузка саммари..."):
+
+                # Сообщение для каждого радиобаттона
+                spinner_text = {
+                    "Хочу переслушать лекцию. Покажи таймстемпы": "🕒 Сейчас покажем таймстемп начала каждой темы... И еще длительность просмотра, сможете планировать время...",
+                    "Ценю свое время. Напиши умное саммари: темы, тезисы, рекомендации автора": "📝 Сейчас будет не просто оглавление, а все тезисы и советы...",
+                    "Заскучал. Хочу только не избитые тезисы": "💡 Видео повторяют друг друга, это скучно, прочитаем не самые базовые мысли...",
+                    "Не хочу писать конспект детальный - напиши вместо меня": "✍️ Создаем самый детальный конспект из возможных...",
+                    "Подсвети “фигню” в этом видео. Некорректные тезисы, упущения, противоречия": "🔍 Лекторы тоже люди. Когда мы учимся ML, важно не запутывать свой мозг...",
+                    "Нужно отработать материал. Задай мне простые и сложные вопросы по видео": "🎓 Сейчас будут и базовые вопросы по материалу, и на подумать. Закрепишь материал!..",
+                    "Готовлюсь к интервью на работу. Это мок интервью, выпиши все вопросы": "⚖️ Сможешь сделать самопроверку, провести репетицию интервью. Сейчас будут все вопросы из видео..."
+                }
+
+                # Спиннер с разным текстом
+                with st.spinner(spinner_text[selected_summary]):
                     result = generate_summary_with_claude(transcript, prompt_text)
 
-                st.text_area("Результат анализ��:", result, height=1500)
+                # Форматированный вывод результата с поддержкой кода
+                if result:
+                    format_answer(result)
+                    
+        else:
+            st.error("Не удалось извлечь видео ID из ссылки.")
     else:
-        st.error("Не удалось извлечь видео ID из ссылки.")
+        st.error("Введите корректную ссылку на видео.")