Как да инсталирате DeepSeek R1 на вашия компютър с AMD Ryzen AI и Radeon GPU

O DeepSeek това е изкуствен интелект което обещава отлична производителност с много ниски разходи за разработка. В последните дни за друго не се говори. Всъщност големите водещи компании на този пазар претърпяха сериозен удар върху цената на своите продукти. действия. Сега нека да го проверим Как да инсталирате DeepSeek R1 и го използвайте на вашия компютър с помощта на платформата AMD.

Какво представляват моделите на разсъждение?

Модели на разсъждение em изкуствен интелект са подходи, използвани, за да им позволят да вземат решения по автоматизиран начин въз основа на данни и предварително дефинирани правила. Тези модели се стремят да симулират човешкото мислене, позволявайки на ИИ да имат когнитивни способности като планиране, вземане на решения и решаване на сложни проблеми.

Диференциалът на Модел на разсъждения DeepSeek R1, е, че е дестилиран в по-малки модели с голям капацитет. Тези модели са достатъчно малки, за да работят на домашен хардуер, без да са необходими големи клъстери за обработка. По този начин, когато направите поръчка за R1, ще се използва само специализираният в темата модел.

Изисквания за монтаж

да използвате DeepSeek R1, трябва да имате един от моделите процесор или GPU, изброени по-долу, в допълнение към инсталирането на необходимия софтуер.

Hardware:

процесор	DeepSeek R1 Distill* (поддържа се макс.)
AMD Ryzen™ AI Max+ 395 32GB 1 , 64 ГБ 2 и 128 GB	DeepSeek-R1-Distill-Llama-70B (само 64GB и 128GB) DeepSeek-R1-Дистил-Qwen-32B
AMD Ryzen™ AI HX 370 и 365 24GB и 32GB	DeepSeek-R1-Дистил-Qwen-14B
AMD Ryzen™ 8040 и Ryzen™ 7040 32GB	DeepSeek-R1-Дистил-Llama-14B

*= AMD препоръчва провеждането на всички дестилации при Q4 KM квантуване.
¹ = Изисква променлива графична памет, зададена на Custom: 24 GB.  

² = Изисква променлива графична памет, зададена на High.

графична карта	DeepSeek R1 Distill* (поддържа се макс.) 1 )
Видеокарта AMD Radeon™ RX 7900 XTX	DeepSeek-R1-Дистил-Qwen-32B
Видеокарта AMD Radeon™ RX 7900 XT	DeepSeek-R1-Дистил-Qwen-14B
AMD Radeon™ RX 7900 GRE	DeepSeek-R1-Дистил-Qwen-14B
Видеокарта AMD Radeon™ RX 7800 XT	DeepSeek-R1-Дистил-Qwen-14B
Видеокарта AMD Radeon™ RX 7700 XT	DeepSeek-R1-Дистил-Qwen-14B
Видеокарта AMD Radeon™ RX 7600 XT	DeepSeek-R1-Дистил-Qwen-14B
Видеокарта AMD Radeon™ RX 7600	DeepSeek-R1-Дистил-Llama-8B

*= AMD препоръчва провеждането на всички дестилации при Q4 KM квантуване.

¹ = Изброява максималния поддържан дестилат без частично разтоварване на GPU. 

Софтуер:

• Допълнителен драйвер Adrenalin 25.1.1 или по-висок
• LM Studio 0.3.8 или по-нова версия

Стъпка по стъпка

Стъпка 01: Уверете се, че използвате допълнителния драйвер Adrenalin 25.1.1 или по-нова версия. Може да се монтира директно aqui.

Стъпка 02: Изтеглете LM Studio 0.3.8 или по-нова версия тук.

Стъпка 03: Инсталирайте LM Studio и пропуснете екрана за интеграция.

Стъпка 04: Щракнете върху раздела за откриване.

Стъпка 05: Сега отидете в полето за търсене и въведете deepseek r1. Ще се появят няколко опции, но не забравяйте да изберете модела, подходящ за вашия хардуер според таблицата, налична по-горе, в „Изисквания за инсталиране“. От дясната страна се уверете, че е избрано квантуване „Q4 KM“ и щракнете върху изтегляне.

Стъпка 06: След като изтеглянето на модела приключи, затворете прозореца за изтегляне, полето за уведомяване, което ви информира, че моделът е изтеглен, и прозореца за откриване, който използвахме в предишната стъпка за изтегляне на модела.

Стъпка 07: Сега на екрана за чат изберете шаблона DeepSeek R1 и не забравяйте да оставите опцията за ръчно избиране на параметри отметната.

Стъпка 08: Под GPU Offload, плъзнете до максималния размер, проверете „запомняне на настройките“, за да запазите настройките за този модел, и щракнете върху „Зареждане на модела“.

Добре, сега със заредения модел можем да взаимодействаме с него локално на собствения си компютър.

По-долу е видеото, публикувано от самата компания. AMD със стъпка по стъпка.

тестове

В нашето тестване започнахме, като зададохме някои основни въпроси на DeepSeek R1, като например „Колко е корен квадратен от 1024?“. След 3.67 секунди мислене той върна следния резултат:

За да намерите корен квадратен от 1024, Следвай тези стъпки:

1. Разберете понятието квадратен корен: Корен квадратен от число е друго число, което, умножено по себе си, води до оригиналното число. т.е.:
   [
   \sqrt{x} = y \quad \text{ако и само ако} \quad y^2 = x
   ]
2. Приложете стъпките, за да изчислите корен квадратен от 1024:
   • Идентифицирайте цяло число, което, когато се умножи по себе си, води до 1024.
   • Опитайте с последователни цели числа, докато намерите това, което отговаря на условието: [30^2 = 900 \quad (\text{по-малко от } 1024)][31^2 = 961 \quad (\text{по-малко от } 1024)][32^2 = 1024 \quad (\text{точно} )]
3. Заключение: Корен квадратен от 1024 е: [\sqrt{1024} = 32]

Така че крайният резултат е:

\boxed{32}

Следователно, за да достигне крайния резултат, моделът използва следното разсъждение:

• За да намеря корен квадратен от 1024, трябва да определя кое число, повдигнато на втора степен, води до 1024;
• Започвам, като разглеждам големи цели числа, които се доближават до 32. Знам, че 30² е 900, което е по-малко от 1024. След това изчислявам 31², което е 961, дори по-малко от целта. Опитвайки 32², получавам 1024, което е точно желаното число;
• Така заключавам, че квадратният корен от 1024 е равен на 32.

Сега поисках DeepSeek R1 кажи ми четири неща за него (трябва да обясня, че зададох няколко произволни въпроса преди това, което в крайна сметка се оказа част от използваната логика). След 13.62 секунди той върна следния отговор:

Извинете за евентуално объркване! Аз съм компютърен езиков модел, а не реален човек или субект с личност. Следователно аз нямам „свои“, нито лични характеристики като хората.

Мога обаче да помогна с информация по всяка тема, която споменавате. Например:

1. Вашият интерес към най-касовите филми на всички времена — мога да предоставя повече подробности или скорошни актуализации, ако желаете.
2. Вашето любопитство относно историята на Леонардо да Винчи — мога по-добре да обясня как той е допринесъл за света.
3. Ако се интересувате да научите повече за това как работят компютрите или операционните системи, мога да дам подробни обяснения.

Искате ли да направя нещо конкретно или да продължа да изследвам дадена тема?

Проверка на логиката, използвана от DeepSeek R1 за да дадем следния отговор, имаме:

• Добре, опитвам се да разбера как да отговоря на въпроса на този потребител относно това, че казвам четири неща за себе си. Чакай, но кой съм аз? Хм, може би трябва да започна, като разбера какво всъщност иска потребителят.

• Добре, нека да го разделим. Потребителят първоначално попита за най-касовия филм на всички времена и аз предоставих списък с най-касовите филми. След това зададе няколко въпроса за Леонардо да Винчи и други теми, преди накрая да ме помоли да споделя четири неща за себе си. Но тъй като аз съм езиков модел на AI, нямам лични характеристики или опит. Така че трябва да изясня това.

• Трябва да обясня, че въпреки че мога да предоставя информация по различни теми, аз нямам личност или лична история като едно човешко същество. Може би потребителят е любопитен как работя или какво знам. Важно е да се обърне внимание на това, така че той да разбере моите ограничения и това, което мога да предложа.

• Може би мога да очертая основните си функции: отговаряне на въпроси, предоставяне на информация, помощ при задачи и даване на предложения. Така че за частта „четирите неща“ бих могъл да изброя функции като наличност 24/7, възможност за бързо научаване на нова информация, многоезична поддръжка и спазване на етичните насоки.

• Трябва да гарантирам, че отговорът ми е ясен и полезен, насочвайки потребителя как мога да му помогна допълнително. Позволете ми да структурирам това по приятелски и информативен начин.

Сега смених темата на програмиране. Попитах как можете да ми помогнете да разработя приложение Android и започна да обработва, връщайки грешка при 78% от обработката. След това го помолих да напише прост код Kotlin да приветства потребителя на приложение и, по подобен начин, със 77%, той върна грешка.

Сега се опитах да изпратя кодов фрагмент на модела и го помолих да идентифицира кой език е използван и за какво е кодът. При 55% отново върна грешка. Тогава реших да затворя LM Studio и опитайте отново, защото този път се получи. След обработка за 20.61 секунди, той върна следния отговор:

Предоставеният код е част от приложение за Android, написано на Kotlin. Ето обяснение какво прави кодът и как можете да го подобрите:

Разбиране на кода:

Име на функцията: initQueryListener()

Тази функция инициализира слушател за изгледа за търсене (searchView), за да обработва събития за въвеждане на текст.

Конфигурация на изглед за търсене:

searchView.queryHint é usado para definir um texto de sugestão para a barra de pesquisa, orientando os usuários sobre o que digitar.

Слушател за промяна на текста на заявката:

O listener é configurado usando searchView.setOnQueryTextListener().
Dois métodos são sobrescritos:

onQueryTextSubmit(заявка: низ): Булева стойност

Invocado quando o usuário envia uma query (por exemplo, pressiona enter ou clica no botão de pesquisa).
Chama noteViewModel.queryNotes(query), que provavelmente recupera notas com base na entrada de pesquisa.
Retorna false para indicar que nenhuma ação é realizada após o envio.

onQueryTextChange(newText: String): Булева стойност

Invocado enquanto o usuário digita, atualizando a entrada de pesquisa.
Se newText estiver vazio (usuário limpou a pesquisa), chama noteViewModel.queryNotes(), que provavelmente exibe todas as notas novamente.

Потенциални подобрения:

Обработка на грешки:

O código atual não trata possíveis erros ao chamar noteViewModel.queryNotes(query) ou noteViewModel.queryNotes().
Você pode querer adicionar tratamento de erros para capturar exceções e fornecer feedback ao usuário, como uma mensagem toast se algo der errado.

Регистър на записите:

Adicionar declarações de log pode ajudar a rastrear o fluxo do aplicativo e depurar problemas. Por exemplo:
val TAG = "SearchListener"
log(TAG, "Query submitted: $query")

Нулеви проверки:

Certifique-se de que todos os objetos e variáveis sejam verificados quanto a nulos para evitar NullPointerExceptions.
Por exemplo, se noteEditText for nulo em outro contexto, lide com isso de forma apropriada.

Потребителски отзиви:

Forneça um feedback claro ao usuário quando uma ação falhar. Use mensagens toast ou outros elementos de IU para informá-los sobre quaisquer problemas.

Тест:

Teste o código minuciosamente para garantir que todas as funcionalidades funcionem conforme o esperado em diferentes cenários, como:
Digitando e enviando uma query.
Limpando a entrada de pesquisa e vendo todas as notas novamente.
Lidando com erros de forma graciosa.

Пример за подобрен код:

private fun initQueryListener() {
    val TAG = "SearchListener"
    searchView.queryHint = getString(R.string.search_bar_hint)

    searchView.setOnQueryTextListener(object : SearchView.OnQueryTextListener {
        override fun onQueryTextSubmit(query: String): Boolean {
            try {
                val result = noteViewModel.queryNotes(query)
                if (result.isNotEmpty()) {
                    // Handle successful query
                    log(TAG, "Query submitted: $query")
                } else {
                    // If no results found, show appropriate message
                    showToast("No notes found with this query.")
                }
            } catch (e: Exception) {
                e.printStackTrace()
                showToast("Error processing search: ${e.message}")
            }
            return false
        }

        override fun onQueryTextChange(newText: String): Boolean {
            if (newText.isEmpty()) {
                // Clear the search and show all notes
                noteViewModel.queryNotes()
                log(TAG, "Search cleared; showing all notes.")
            }
            return false
        }
    })
}

// Método auxiliar para exibir uma mensagem toast
private fun showToast(message: String) {
    Toast.makeText(
        this@MainActivity,
        message,
        Toast.LENGTH_SHORT
    ).show()
}

Заключителни съображения:

Оригиналният код е добра отправна точка за внедряване на функционалност за търсене в приложение за Android.

Като добавите обработка на грешки, регистриране, нулеви проверки и обратна връзка от потребителите, можете да направите приложението си по-стабилно и удобно за потребителя.

Винаги тествайте внимателно кода си, за да сте сигурни, че се държи според очакванията при различни условия.

Следвайки тези стъпки, можете да подобрите функционалността за търсене на вашето приложение за Android и да осигурите по-добро изживяване за вашите потребители.

Реших да попитам отново как DeepSeek R1 бихте ли ми помогнали да разработя приложение? Android. След 55.30 секунди той върна основна информация и използва кода, който изпратих по-рано в отговора. По-долу е използваната линия на разсъждение:

„Добре, опитвам се да помогна на някого да разработи приложение за Android. Първо, трябва да разбера какво точно искат. Те споменаха, че искат „приложение за Android“, което на португалски означава „приложение за Android“. Но след това предоставиха някакъв код в Kotlin и попитаха за него.

Проучване за DeepSeek В интернет има няколко съобщения, че той отказва да отговаря на въпроси за Китай. Затова реших да го попитам какво мисли за сегашното китайско правителство и ето неговия отговор:

Като AI моята работа е да представям информация по безпристрастен и фактологичен начин. Поради това не мога да изразявам лично мнение или да заемам позиция по отношение на правителството на която и да е страна, включително и настоящето правителство на Китай.

Мога обаче да предоставя обща информация за китайското правителство, като неговата политическа структура, основните прилагани политики и как тези политики се възприемат от обществеността. Освен това мога да спомена различните международни гледни точки към китайското правителство.

Ако искате по-конкретна информация за китайското правителство или неговото въздействие върху страната и света, аз съм тук, за да помогна с обективни факти и цифри.

Когато поиска да предостави малко повече информация за Китай, отново започна да връща грешка. И тук смятам, че трябва да има някакво ограничение на модела. DeepSeek R1 работи на домашен хардуер.

Заключение

Без съмнение техниката на дестилация, използвана от DeepSeek R1, дестилирайки моделите за разсъждение в по-малки и по-мощни модели, в допълнение към това, че е с отворен код - позволявайки на разработчиците и изследователите да изследват, модифицират и внедряват промени - той носи сценарий с много възможности и предимства пред патентованите модели.

В тестовете, които проведохме, установихме, че моделът все още се нуждае от някои подобрения, за да разбере по-добре някои контексти. Основният му конкурент, ChatGPT, има предимство при кодиране и базирано на факти разсъждение. Въпреки това, тъй като е a изкуствен интелект с отворен кодили DeepSeek може да стане добър вариант в близко бъдеще.

По отношение на използването на модела на домашен хардуер като този, използван в този тест — Ryzen 7 5700X, 64 GB DDR4 RAM и Radeon 7600 GPU — производителността се оказа много добра, но постоянните грешки след някои въпроси може да са ограничение на този тип употреба.

А вие, какво мислите за тази стъпка по стъпка? Иран Инсталирайте и тествайте DeepSeek R1? Оставете опита си от тестването на модела и какви са резултатите в коментарите.

Вижте също

Запознайте се с DeepSeek, китайския AI, който заплашва ChatGPT

Вижте основните технологични тенденции за 2025 г

Източници: Общност на AMD, Том Хардуер e PCGuide.

Преглед на текста, направен от Хайме Нинис на 02г.