A12-9800E 에서도 Ollama vulkan 으로 LLM 구동이 가능해졌습니다
이전엔 내장그래픽 버퍼가 작으면 cpu fallback 되었지만, 업데이트후 알아서 시스템메모리를 잘 활용하고 있습니다.
극단적으로는 카베리 A10+DDR3 환경에서도 구동은 가능할것 같습니다.
메모리 64GB로 확장하고 32B모델 올려놔서 저속 LLM용으로 쓰거나, 이미지생성기로 사용하기도 좋아보입니다.
프로세서의 한계로 성능이 좋진 않지만 RYZEN 3400G, 5700G 등으로 교체하면 좀더 빨라질것 같고
별도로 레이어를 분리해서 CPU의 AVX2를 동시에 활용하는 테크닉도 가능해지지않을까 싶습니다.
보급률이 아주 높은 인텔 HD530~UHD630 그래픽도 쓸수 있으면 좋겠는데 아직 테스트해보진 못했습니다.
근래처럼 메모리값이 비싼 시기에 리눅스 환경으로 낡은 프로세서에 새로운 용도를 찾아줄수 있어서 기쁘고
ollama 팀에도 감사를 전하고 싶습니다.
OS의 커널 레벨에 이상 인증을 탐지하여 차단하는 기능의 필요성
하모니카 9.0 출시 계획이 있는지 궁금합니다.
네트워크 장비에 대한 보안이 얼마나 중요한지를 일깨워 준 침해사고
해킹 변천사와 2차 인증 적용 우선 순위
랜섬웨어 공격의 90%가 방화벽 취약점을 악용해 이뤄지는 것
2026년 9월부터 Google에 등록하지 않은 개발자의 애플리케이션을 Android 플랫폼에 설치할 수 없다. 구글 제 정신임?
리눅스 민트에서 한글 2020 설치가 안되나요?
서버 접근제어 솔루션(SAC)은 과연 보안 솔루션일까?
[강남 강의실 대여] 무료 교육 및 세미나 진행시 무료사용 (서울 강남역)
리눅스에서 고전온라인게임(거상) 돌리기
아르바이트 표준이력서 양식 다운로드 필요한 분.
교원그룹의 침해사고와 일본 아사히 그룹 간의 침해사고의 차이
갑자기 궁금증이 생겨서 글을 남겨 봅니다.
내 정보와 자산을 지키는 가장 쉬운 방법은 추가 자물쇠(2차 인증)를 채우는 것
너무 좋네요...하모니카 리눅스
오랜만에 하모니카 커뮤니티를 찾아왔네요.
더 이상 "뚫렸는가, 안 뚫렸는가"의 이분법이 아니다.
A12-9800E+linux 에서 LLM 구동하기
정보자산에 대한 보안의 향후 흐름(방향)
AI Co-Scientist Challenge Korea 경진대회 개최
Copyright © 2023 invesume, This site is licensed under a Creative Commons Attribution 4.0 International License. HamoniKR and HamoniKR OS logo are trademarks of The Invesume, Inc.
더 이상 "뚫렸는가, 안 뚫렸는가"의 이분법이 아...
정보자산에 대한 보안의 향후 흐름(방향)
